随机特征映射的四层神经网络及其增量学习
2021-07-22王士同
杨 悦,王士同
江南大学 人工智能与计算机学院,江苏 无锡 214122
随着人工智能研究的复兴,许多机器学习算法大展头角,推动着人工智能研究的发展。其中多层结构的神经网络已经应用于许多领域,并在许多应用中取得突破性成果[1-3],比如卷积神经网络(convolutional neural networks,CNN)[4]、反向传播神经网络(back propagation,BP)[5-6]、极限学习机(extreme learning machine,ELM)[7-8]、模糊神经网络(neuro-fuzzy netwoks,FNN)[9]以及宽度学系统(broad learning system,BLS)[10-13]。CNN 结构是一种多层神经网络,通过卷积和池化操作进行特征提取和适当的权重调整。CNN 及其变体已成功地在各种数据集测试中实现了非常高的识别率。尽管这种深层结构非常强大,但由于大多数网络都涉及大量超参数和复杂结构,其训练过程非常耗时。此外,这种复杂性使得从理论上分析深度结构很困难,为了获得更好的精度,大多数工作涉及大量参数传递或堆叠更多的层数。另外,基于梯度下降[14]的算法也被广泛应用于训练神经网络,如BP 神经网络利用误差的反向传播来调整网络的权值。然而,这样的网络结构在训练过程中若选择了不恰当的步长会导致训练失败:步长过小会容易导致训练陷入局部最小值,或训练过程非常耗时。如果训练陷入局部最小值,将导致训练永远达不到期望的收敛状态,以至导致训练失败;步长过大会使得寻解不仔细而得不到最优解。
随机向量功能链路神经网络(random vector functional-link neural network,RVFLNN)[15-16]提供了另一种代表性的方法来学习神经网络中的参数。它基于功能链路神经网络(functional-link neural network,FLNN)[17]的框架,与传统的单层神经网络一样,FLNN 通常依赖于反向传播算法来迭代地训练所有参数。……