乔俊飞，李凡军，杨翠丽

(1.北京工业大学 信息学部，北京 100124； 2.济南大学 数学科学学院，山东 济南 250022； 3.计算智能与智能系统北京市重点实验室，北京 100124)

随机权神经网络研究现状与展望

乔俊飞1，3，李凡军2，杨翠丽1，3

(1.北京工业大学 信息学部，北京 100124； 2.济南大学 数学科学学院，山东 济南 250022； 3.计算智能与智能系统北京市重点实验室，北京 100124)

神经网络随机学习克服了传统梯度类算法所固有的收敛速度慢及局部极小问题，最近已成为神经网络领域的研究热点之一。基于随机学习的思想，人们设计了不同结构的随机权神经网络模型。本文旨在回顾总结随机权神经网络的研究现状基础上，给出其发展趋势。首先,提出随机权神经网络简化模型，并基于简化模型给出神经网络随机学习算法；其次，回顾总结随机权神经网络研究现状，基于简化模型分析不同结构随机权神经网络的性能及随机权初始化方法；最后,给出随机权神经网络今后的发展趋势。

随机权神经网络；前馈神经网络；递归神经网络；级联神经网络；随机学习算法

人工神经网络是通过模仿大脑神经系统的组织结构及活动机理进行信息处理的新型网络系统，具有从环境中学习的能力，并引起诸多领域的广泛关注，比如信号处理、智能控制、模式识别、图像处理、非线性系统建模与优化、大数据处理、知识处理等领域[1-6]。迄今为止，应用最为广泛的神经网络学习方法是梯度类算法。然而，传统的梯度类算法本身存在一些难以解决的瓶颈问题，如收敛速度慢、易陷入局部极小点、对初始参数的设定依赖性较强等[7]。……