王栎桥，张达敏，樊 英，徐 航，王依柔

(贵州大学大数据与信息工程学院，贵州 贵阳 550025)

1 引言

神经网络NN(Neural Network)是智能计算领域最伟大的发明之一，它模仿了人类大脑的神经元并主要用于解决分类问题和进行数据预测。1943年，神经网络的概念被首次提出。从此，神经网络得到迅速发展，不同类型的神经网络相继被提出，多层感知器神经网络MLP NN(MultiLayer Perceptron NN)是该领域最著名的分类器之一,已经有广泛的研究应用。一般来说MLP分为2大类:有监督的和无监督的[1]。训练器负责训练MLP。多年来，反向传播技术及其变体[2]在MLP神经网络训练中发挥着重要作用。然而，基于梯度下降及其变种的方法存在收敛速度慢、易陷入局部极小值、对初始参数[3]的依赖性强等缺点。因此，群智能算法是高维问题中最适用的训练器之一，因为它具有随机性，可以有效地避免局部最优。另一方面，单解算法和多解算法是随机方法的2大类。在高维问题[4]中，多解算法相比较单解算法可以防止训练器陷入局部最优。有大量著名的多解群智能算法被用来训练神经网络[5 - 11]，尽管各种群智能算法之间存在差异，但是，群智能算法都是将解空间内的寻优过程划分为探索和开发2个阶段。在很多情况下，由于群智能算法的随机性，开发和搜索2个阶段之间没有明确的界限[12]，2个阶段之间的不平衡使得算法陷入局部最优[13]。这些基于群智能的随机优化算法在很大程度上降低了陷入局部最优的概率，但它们在收敛速度和收敛精度方面仍然不尽人意[14]。……