一种改进的ELM-SAMME算法及应用研究∗
2021-06-29李克文丁胜夺段鸿杰
计算机与数字工程 2021年6期
李克文 丁胜夺 段鸿杰
(1.中国石油大学(华东)计算机与通信工程学院 青岛 266580)
(2.中国石化胜利油田分公司信息中心 东营 257000)
1 引言
分类学习算法是机器学习中的一项热点研究内容,从传统的分类算法到新型的衍生算法,解决此类问题的方案层出不穷。黄广斌等[1]在单隐层前馈神经网络(Single-hidden Layer Feedforward Neural Network,SLFN)的算法基础上进行改进提出了极限学习机(Extreme Learning Machine,ELM)算法,针对传统反向传播(BP)神经网络[2]求解参数过多、神经网络训练时间消耗大、易陷入局部最优等缺陷,该算法以求解线性方程组的方法取代标准算法中梯度下降方法进行迭代求解的过程,求取最小二乘解得到输出层权值,简化了繁琐的迭代过程,形成一种速度快、结构简单、泛化性能好、人工干预少的学习算法。该算法常被用于解决分类、回归以及特征学习等问题。
Boosting方法[3]是一种经典的机器学习方法,在分类问题中,提升算法通过每次迭代的结果逐步的调整次轮训练样本的权重,将注意力转移到错分样本上,学习多个弱分类器后将这些弱分类器和相应迭代代数中获得的参数值进行线性组合,获得分类性能更强的强分类器。AdaBoost算法是行之有效的一种Boosting算法,它避免了标准Boosting中必须要预先计算各弱分类器分类准确率下限的麻烦,简化了模型求解过程,提升了算法实用性。经典的AdaBoost算法多被用于二分类问题的求解,而多分类问题在现实应用中更常见且其识别率更亟待提高。基于此,将AdaBoost算法扩展改进为多分……
登录APP查看全文
