张红玉，丁 宁，徐江荣

(杭州电子科技大学能源研究所，浙江 杭州 310018)

BP神经网络激励函数改进研究

张红玉，丁 宁，徐江荣

(杭州电子科技大学能源研究所，浙江 杭州 310018)

针对BP神经网络算法收敛速度慢、收敛精度低等缺陷，提出了一种改进的BP网络算法，即在S型传递函数(激励函数)中引入位移因子，给出了具体函数公式及改进算法.对不同位移因子所产生的运行结果进行比对，给出了位移因子合适的取值范围，将改进的函数集成到MATLAB神经网络工具箱中.最后，应用改进算法进行仿真，实验结果表明，相对于标准BP算法，改进算法的收敛速度提高了61%，收敛精度达到0.003 1，验证了改进函数的可行性，收敛速度和收敛精度均得到了改善.

BP神经网络；激励函数；Logistic曲线；位移因子

0 引 言

反向传播(Back-Propagation，BP)神经网络是一种多层前向神经网络，可实现从输入到输出的任意非线性映射，其权值的调整采用反向传播的人工神经网络.在标准BP神经网络算法中，神经元激励函数通常采用单、双极S型函数.然而，标准的Sigmoidal函数形式单一，其映射范围和位置都是固定不变的，缺少灵活性，这与神经网络的泛化能力不协调，无法改善神经网络的收敛速度慢、收敛精度低、易陷入局部极小解等问题[1-4].针对标准BP算法存在的缺陷，很多学者进行了研究并提出了改进方案，比如，文献[5]提出了一种含有4个待定参数的神经元激活函数，然而，在实际应用中，由于该方法所含参数较多，耗费了大量时间.本文在……