基于布谷鸟优化算法的加权极限学习机模型
2017-07-19王琴
河南科技 2017年9期
王琴
(海南医学院,海南 海口 570102)
基于布谷鸟优化算法的加权极限学习机模型
王琴
(海南医学院,海南 海口 570102)
鉴于极限学习机的待定参数对模型极大的影响力,利用布谷鸟优化算法对核参数和惩罚因子进行优化选择,以进一步提高模型的预测精度,然后利用非线性权值函数对极限学习机的不同样本数据进行加权,得到新的加权极限学习机模型,提高模型的鲁棒性能。
极限学习机;核函数;加权矩阵;布谷鸟优化算法
极限学习机(ELM)[1]是训练单向隐藏层神经网络的一种算法。ELM通过随机产生且不需要任何调整的隐藏层参数来实现非线性映射的逼近。ELM有很多优点,比如易于操作,快速的训练速度,较好的泛化能力等。
近些年,核学习方法已经被广泛研究并且在各个方面得到应用,如分类、函数逼近、异常检测等。其最典型的特征就是Mercer核的运用,Mercer核通过从低维空间向高维空间实现特征变换,在再生核空间中将非线性问题线性化。在ELM中,随机初始化隐藏层的处理可以看成是产生一个从输入数据映射到特征空间的非线性映射。如果ELM核映射未知,ELM能定义核函数,随之产生核极限学习机(KELM)[2]。在KELM中,隐藏层的个数即隐藏层特征空间的维数可以为无穷大,也不需要指定,这样KELM就能获得较好的泛化能力,且通过核技巧降低运算成本。
鉴于不同样本点对ELM的输出会有不同影响,为了更好地处理这些不平衡数据的预测,加权极限学习机[3](WELM)通过对不同样本进行加权,合理分配不同样本的权值,大大提高ELM的学习能力。……
登录APP查看全文
