APP下载

基于EFAST的在线极限学习机节点剪枝方法

2018-09-21

三明学院学报 2018年4期
关键词:方法

(福州理工学院,福建 福州,350002)

极限学习机(extreme learning machine,ELM)[1-3]是在单隐藏层网络结构基础上新近发展的机器学习技术,有处理快速、泛化精度高、结构简单等优点,但这种标准的极限学习机并不能在学习的同时也能对自身的网络结构进行自适应调整,给极限学习机带来了一定的局限性,并且当隐藏节点过多时会导致ELM的过拟合的问题,反之过少的时候,则会导致ELM泛化精度降低。目前极限学习机的网络结构自适应调整方法总体上分为3类:剪枝方法,增长方法,混合方法。P-ELM[4]、OP-ELM[5]、ImSAP-ELM[6]和SVM-ELM[7]是属于剪枝的方法,一般会初始化一个较大的单隐藏层网络结构,再按照一定的标准,对隐藏层中各个节点的重要性进行分析,最后舍去非重要的节点从而达到对网络结构的优化,但这些方法只能是单纯对节点个数进行优化,并且无法应用于在线的极限学习机(OSELM)。I-ELM[8]和CEOS-ELM[9]。是属于增长的方法,会从一个初始较小的网络,然后逐步添加节点,一直到网络的精度满足期望的要求,在训练时,一般需要指定最高的训练精度与最大的网络规模,但这两个参数在实际当中是难以预先估计。EOS-ELM[10]、VS-OSELM[11]和HOS-ELM[12]是属于混合的方法,这类方法既有添加节点功能也包含节点删除的功能,在实际中实现相对复杂,所需设置参数较多,因而增加了ELM的使用难度。

本文的方法属于一种剪枝类方法,首先通过使用扩展的傅里叶振幅敏感度测试(EFAST)[13-15]对OS-ELM的隐藏层各节点进行敏感度分析,能更加准确的分析各个隐藏节点对网……

登录APP查看全文

猜你喜欢

方法
中医特有的急救方法
高中数学教学改革的方法
化学反应多变幻 “虚拟”方法帮大忙
变快的方法
学习方法
用对方法才能瘦
最有效的简单方法
四大方法 教你不再“坐以待病”!
赚钱方法
捕鱼