基于改进粒子群算法的BP 神经网络模型研究①
2012-07-09姚尔果闫秋粉南振岐薛小虎
姚尔果, 闫秋粉, 南振岐, 薛小虎
(1.西北师范大学数学与信息科学学院,甘肃兰州730070;2.新疆乌鲁木齐市军区测绘信息中心,新疆乌鲁木齐830000)
针对BP神经网络[1]易陷入局部最优值,收敛速度慢的问题,本文通过调整粒子群进化速率提出了改进的粒子群算法(DPSO,dynamic particle swarm optimization),增强了全局搜索能力,提高了收敛的精度和速度.最后通过DPSO算法训练BP神经网络,构建了基于改进粒子群算法,DPSO-BP(dynamic particle swarm optimization-back propagation neural network)的神经网络模型.
1 BP神经网络结构
BP神经网络是采用反向传播误差调整的学习方法,本文采用三层前馈神经网络[2,3],如图 1 所示.该网络结构输入层输入预处理的函数指标,经隐含层的非线性映射训练,输出预处理结果,隐含层用Sigmoid函数作为传递函数:

输入层与隐含层的映射关系y0i=C(X0i,Wji).
隐含层与输出层的映射关系yk=(Wji,y0i,λ).
输出信息与期望目标之间的误差e为:

2 粒子群算法
粒子群优化算法为Kennedy和Eberhart两位博士于1995年基于鸟群觅食行为而提出的群体智能算法[4].国内外学者提出了多种改进算法[5-8],文献[6]引入聚焦距离变化率的概念,将惯性因子表示为关于聚焦距离变化率的函数,动态改变惯性权重.文献[7]采用自适应均衡法调整惯性权重因子,达到寻优的过程.本文在改进的DPSO中,引用动态机制调整惯性权重因子w,w值根据粒子i在第k-1次与第k次迭代中搜索的空间步长动态变化.

图1 BP神经网络模型
2.1 标准粒子群优化算法
PSO算法采用速度-位置搜索模型,每个粒子代表搜索空间中待优化问题的一个可行解,通过粒子的群……