张世睿,李心科

(合肥工业大学 计算机与信息学院,安徽 合肥 230009)

基于模拟退火的BP网络隐藏层节点估算算法

张世睿,李心科

(合肥工业大学 计算机与信息学院,安徽 合肥 230009)

单隐藏层BP神经网络在模式识别及数据挖掘等领域应用广泛,而隐藏层节点的数目受到众多因素的影响,因此节点数量的选取一直是一个复杂的问题。文章提出一种基于模拟退火算法(simulated annealing,SA)的单隐藏层BP神经网络隐藏层节点估算算法,基于经验确定隐藏节点数的下界,通过模拟退火不断增加隐藏节点个数直至算法结束,得到最优解。该方法与经验法和试凑法相比具有较强的理论依据,与遗传算法等方法相比不容易陷入局部最小值。实验证明,采用该方法估算隐藏层节点的准确率较高,速度也较快。

BP网络;模拟退火算法(SA);单隐藏层;隐藏层节点数

BP神经网络由于具有很强的自我学习能力,能够逼近任意复杂非线性函数[1],同时还能够解决传统参数方法难以找到合适规则的问题,具有较强的容错性和鲁棒性,已经被广泛应用于模式识别、信息分类和数据挖掘等领域[2-3]。

研究证明,神经网络的学习能力取决于网络隐藏层的结构,其中包括隐藏层的数目和每个隐藏层中隐藏节点的数量。增加隐藏层的数量可以有效降低网络的训练误差,提高网络识别的准确率,但也会使网络的拓扑结构更加复杂,训练时间也会更长；而增加隐藏节点数也可以提高识别的准确率,更容易观察和调整训练效果[4]。……