一种基于粒子群优化的极限学习过程神经网络
2016-10-18刘志刚许少华李盼池
刘志刚,许少华,李盼池
(1.东北石油大学计算机与信息技术学院,黑龙江大庆 163318;2.山东科技大学信息科学与工程学院,山东青岛 266590)
文章编号:1000-5641(2016)04-0086-10
一种基于粒子群优化的极限学习过程神经网络
刘志刚1,许少华2,李盼池1
(1.东北石油大学计算机与信息技术学院,黑龙江大庆163318;2.山东科技大学信息科学与工程学院,山东青岛266590)
本文针对过程神经元网络(Process Neural Network,PNN)模型学习参数较多,正交基展开后的梯度下降算法初值敏感、计算复杂、不易收敛等问题,结合极限学习机(Extreme Learning Machine,ELM)的快速学习特性,提出了一种新型的极限学习过程神经元网络.学习过程中摒弃梯度下降算法的迭代调整策略,采用Moore-Penrose广义逆计算输出权值矩阵.同时为弥补极限学习机由于随机赋值造成的不足,利用粒子群算法(Particle Swarm Optimization,PSO)良好的全局搜索能力进行模型参数优化,获得紧凑的网络结构,提高了模型泛化能力.仿真实验以Henon混沌时间序列和太阳黑子预测为例,验证了网络的有效性.
过程神经元网络;极限学习机;粒子群;Moore-Penrose广义逆;网络训练
现实世界中,许多系统的输入信号是与时间有关的函数过程,为更好地逼近系统,文献[1]提出了过程神经元网络(PNN),模型的输入、权值和输出都可以是与时间有关的函数,隐层包含时空聚合算子,可完成信号的空间聚合和时间累积,减小传统神经网络在逼近复杂非线性系统时的误差.文献[2]研究了模型的连续性、逼近性等性质.在模型构造方面,相继提出了自组织[3]、小波[4]、量子[5]等……