刘 炀，汤传玲，王 静，石文莹，赵小兰

（合肥工业大学，安徽 合肥 230009）

神经网络是一种由简单单元组成的具有适应性的广泛并行互连的网络，其组织能够对真实世界物体做模拟生物神经系统的交互反应。神经网络已经成为一门比较重要的交叉性学科，被广泛应用于智能控制、模式识别、辅助决策、信号处理和计算机视觉等领域。BP（Back Propagation）神经网络在各门学科领域中都有非常重要的实用价值，也是在模式识别中应用最广泛的一种人工神经网络，它具有很强的自学习、自适应能力以及非线性逼近能力。由于基于误差梯度下降的BP算法易于陷入局部极小点而不收敛，目前，已经有很多学者对BP算法进行了研究，并针对它的这些缺陷提出了一些改进方法。

1 基本BP算法

1.1 BP算法原理

BP网络是采用误差反向传播算法的多层前馈网络，网络的输入和输出是一种非线性映射关系，其中，神经元的传递函数为Sigmod函数。

BP网络的学习规则是采用梯度下降算法。在网络学习的过程中，将输出层节点的期望输出（目标输出）与实际输出（计算输出）的均方误差一一逐层向输入层进行反向传播，再分配给各连接节点，并且计算出各连接节点的参考误差。在这个基础上可以调整各连接权值，使所获得的网络的期望输出与实际输出的均方误差达到最小。

将第j个样本输入到网络时，得到均方误差为：

其中，ei，j表示输入第 j个样本时，输出层第 i个节点的期望输出值 yi，j与实际输出值间 的 差 值 ， 即 ei，j=yi，j-；……