刘杰，甘旭升，戴喆，魏野

（1.西京学院，西安710123；2.空军工程大学空管领航学院，西安710051；3.解放军93175部队，长春130051）

改进人工鱼群算法的小波神经网络模型

刘杰1，甘旭升2，戴喆2，魏野3

（1.西京学院，西安710123；2.空军工程大学空管领航学院，西安710051；3.解放军93175部队，长春130051）

针对小波神经网络（WNN）算法方面的不足，提出一种基于改进人工鱼群算法（AFSA）的多分辨率WNN建模方法。该方法引入混沌初始化策略和免疫调节机制，用以克服基本AFSA存在的缺陷，并将改进后AFSA用于训练多分辨率WNN模型。仿真结果表明，所提出方法建模精度高，训练时间短，能较好控制早熟和局部收敛问题，用于复杂非线性系统建模是有效的，也是可行的。

小波神经网络，人工鱼群算法，免疫调节，混沌系统

0 引言

小波神经网络（Wavelet Neural Network，WNN）是小波分析理论研究取得突破的基础上提出的一种前馈神经网络［1］。在WNN学习算法中，BP算法应用最为广泛，并衍生出诸多改进算法。BP算法实质上是一种梯度下降学习算法，其对连接权值、尺度因子和平移因子的修正是沿着误差性能函数梯度的反方向进行的，这使其在解决较复杂系统的建模时，可能会出现算法不稳定、易陷入局部极小等问题，而且其精度和收敛速度也存在较大改善空间，势必会影响建模效果。针对这一问题，学者们提出了许多解决方案，并进行了验证［2］。研究表明，人工鱼群算法（Artificial Fish Swarm Algorithm，AFSA）在解决类似神经网络的学习问题时，是BP算法一种很好的替代方法。AFSA主要优点是结构简单、收敛速度快、可兼顾并行性和全局性。但也存在早熟收敛，无法保证收敛到全局最优点的不足，性能也尚存在改善空间，有待于深入研究和改进［3-4］。

基于此，针对AFSA不足，引入混沌初始策略和免疫调节机制，并将其应用于WNN的训练中，以有效满足非线性系统建模的实用需要，并进行了验证。

1 多分辨率小波网络

WNN是从小波变换基础上发展起来的新型神经网络，由于使用小波基取代通常的神经元非线性激励函数，结合了小波变换良好的时频局域化性质和传统神经网络自学习功能，因而WNN具有较强逼近和容错能力。

对于离散小波变换，由小波函数

图1 小波神经网络结构

实际上，对WNN训练就是指对参数wji，wkj，mj，nj进行最优化估计的过程，采用不同算法优化参数wji，wkj，mj，nj就形成不同WNN算法。

2 人工鱼群算法

文献［3］提出一种随机优化算法——AFSA算法。AFSA算法通过模仿鱼的运动、聚集等行为构造人工鱼，利用觅食、聚群及追尾行为调整自身位置，经过一段时间后，各人工鱼在各极值处聚集，并通过局部寻优搜索全局最优值。鱼的典型行为可描述为：

（1）觅食行为：指鱼通过判断食物的位置和浓度以接近食物的行为。

（2）聚群行为：指鱼游动中趋于聚集起来寻觅食物、躲避危害的行为。鱼聚群时所遵守的规则有3条：①分隔规则：尽量避免与临近伙伴过于拥挤；②对准规则：尽量与临近伙伴的平均方向一致；③内聚规则：尽量向临近伙伴的中心移动。

（3）追尾行为：指当一条或几条鱼找到食物时，附近鱼会尾随而至，远处鱼也会向此集中的行为。

（4）随机行为：指未找到食物前，各条鱼随机游动，从而加大了找到食物的可能性。

各人工鱼根据周围环境的感知，每次移动经过尝试后，执行其中一种行为。AFSA算法就是利用以上典型行为，从构造单条鱼底层行为作起，通过鱼群中各个体的局部寻优，以达到获取全局最优值。算法运行就是人工鱼个体通过觅食、聚群以及追尾行为的自适应活动过程。

3 人工鱼群算法的改进策略

与其他生物群体优化算法一样，AFSA在解决复杂优化问题时，也存在易陷入局部极值和优化效率不高的不足。针对这一问题，本文根据混沌系统和免疫系统表现出特性，引入了混沌初始策略和免疫调节机制，以期有效改善AFSA的总体优化性能。

3.1 引入混沌初始策略

混沌是非线性系统所表现出的一种特有现象，如初始值敏感性、伪随机性、遍历性、规律性。在基本AFSA中，人工鱼群初始化采用随机化办法，尽管可以保证初始化鱼群的多数个体是均匀分布的，但部分个体可能远离最优解。若通过混沌特性改善人工鱼群的初始化质量，将会改善求解的效率和质量［5-6］。本文采用经典Logistic映射方程来实现混沌变量的演变，如式

式中，混沌变量x∊（0，1），且x∉{0.25，0.5，0.75}，系统完全处于混沌状态，x将在（0，1）范围内遍历。

3.2 引入免疫调节机制

由免疫学原理可知，免疫系统的诸多功能和机理，对解决工程实际问题具有借鉴意义。在免疫调节中，为了维持抗体的多样性，抗体浓度越小，被选中的概率越大；抗体浓度越大，被选中概率就越小。这种选择机制既保留了高适应值个体，又维持了抗体多样性，进而避免了早熟现象。免疫记忆指免疫系统将与抗原发生反应的抗体作为记忆细胞记忆下来，当同类抗原再次侵入时，相应地记忆细胞被激活而产生大量的抗体，缩短免疫反应时间。基于以上分析，将人工鱼群中人工鱼视为免疫系统的抗体，把免疫系统的这些特性引入基本AFSA中。基本思想：当人工鱼群执行觅食、聚群、追尾行为中，若连续迭代若干次，目标函数值无明显变化，可按一定概率在鱼群中随机抽取一定量的人工鱼个体，并从特征属性信息或先验知识中有针对性地提取疫苗，并通过“免疫选择”和“接种疫苗”对这些人工鱼（抗体）的参数进行修改，形成新的人工鱼群参与运算，以期达到改善全局优化性能和避免陷于局部收敛的目的［7-8］。

4 改进人工鱼群算法训练多分辨率WNN过程

采用改进AFSA训练多分辨率WNN，需将网络参数编码为人工鱼，即人工鱼每一维度对应WNN中一个参数wji，wkj，mj或nj（i=1，…，I；j=1，…，J；k=1，…，K）。适应值函数选取为

式中，T为样本总数，y^为网络预测值。WNN参数搜索空间维数为D=I·J+J·K+2·J。

用改进人工鱼群算法训练具有三层多分辨率WNN，可按以下步骤进行：

（1）设置WNN和改进AFSA的有关参数。给定的输入/输出训练样本集，设计WNN的隐层节点个数；混沌初始化鱼群个数Nc、鱼群规模N、最大迭代次数Maxiter、目标精度ε、Visual、Step、Try-number和δ。初始迭代次数Num=0。

（2）鱼群初始化：在可行解空间内对WNN参数wji，wkj，mj和nj进行人工鱼编码，并按式（3）的混沌策略产生Nc条人工鱼，并从中选出N（N＜Nc）条较优个体作为初始鱼群。

（3）根据式（4）计算鱼群各个体当前位置的适应值，并取适应值最小的人工鱼赋给公告板。

（4）鱼群中各个体分别模拟聚群行为和追尾行为，选择适应值较大行为作为实际执行方式，默认为觅食行为；此外，每次行动后，检查自身适应值是否优于公告板纪录，若优于纪录，则更新公告板，并选取鱼群最优的Xl（l=1，2，…，p）作为免疫记忆人工鱼，存入记忆库。

（5）若满足Maxiter或ε，训练结束，并转向步骤7；否则，Num=Num+1，转向步骤6。

（6）以基于免疫的新一代人工鱼群的产生机制为指导，提取疫苗λ，新生成N+M条新人工鱼，采用下式计算人工鱼个体的选择概率，选取概率较大的N条人工鱼构建新鱼群；按比例执行疫苗接种和免疫选择操作，返回步骤4。

（7）将公告板上的最优人工鱼解码为WNN的参数wji，wkj，mj和nj，得到WNN模型。

4 算例分析

4.1 分段函数逼近

设非线性分段函数为：

在［-10，10］范围内取481个样本点。实验参数设置：混沌初始化鱼群个数Nc=100，鱼群规模N=40，最大迭代次数Maxiter=200，Try-number=20，Visual=2.95，Step=0.15，δ=0.618，根据经验参考公式，隐含层节点个数取30。实验结果如表1、图2和图3所示，其中，“---”代表逼近曲线，“—”代表参考曲线。MSE代表均方误差。

表1 各模型逼近性能对比

从实验结果可以看出，AFSA-WNN和IAFSA-WNN的总体性能都比BP-WNN有了显著提高，这说明基于人工鱼群的全局优化技术，确实能够有效减少由系统的非线性特性引起的系统误差，改善WNN的逼近性能。而相比之下，IAFSA-WNN逼近误差更小，收敛速度也与IAFSA-WNN大体相当，这说明引入混沌初始策略和免疫调节机制，可有效提升AFSA的搜索精度和全局优化能力，并在一定程度上避免了早熟和局部收敛问题。

图2 IAFSA-WNN的逼近效果

图3 IAFSA-WNN训练收敛曲线

4.2 UCI标准数据集预测

为了验证算法有效性，采用UCI机器学习数据库中的2个标准数据集进行了测试。数据集及实验相关信息如下页表2所示。参数设置同4.1。

表2 数据集及实验相关信息

从表3中的平均测试结果可得出相同结论，IAFSA-WNN比其他两种算法具有更好的训练和预测性能，能以更少时间完成WNN训练，这是BP-WNN和AFSA-WNN算法所无法办到的，也进一步证明了IAFSA-WNN的有效性和可行性，值得深入研究和推广使用。

表3 训练和测试性能比较

5 结束语

针对基本AFSA存在早熟和局部收敛的不足，引入混沌初始策略和免疫调节机制，对AFSA进行了改进，并将其用于WNN训练。分段函数逼近和UCI标准数据集预测的测试结果表明，WNN的IAFSA实现简便，不易陷人局部极小，能以较少的时间收敛于比较理想的精度，并具有良好的预测性能，较之BP-WNN和IAFSA-WNN具有一定优势，也为其他类似优化问题的研究提供了新思路。

［1］Zhang Q H，Benveniste A.Wavelet Network［J］.IEEE Transactions on Neural Networks，1992，3（6）：889-898.

［2］Zhang Q H.Using Wavelet Network in Nonparametric Estimation［J］.IEEE Transactions on Neural Networks，1997，8（2）：227-236.

［3］李晓磊，邵之江，钱积新.一种基于动物自治体的寻优模式：鱼群算法［J］.系统工程理论与实践，2002，22（11）：32-38.

［4］李晓磊，钱积新.基于分解协调的人工鱼群优化算法研究［J］.电路与系统学报，2003，8（1）：1-6.

［5］曲良东，何登旭.一种混沌人工鱼群优化算法［J］.计算机工程与应用，1998，36（22）：40-42.

［6］王闯.人工鱼群算法的分析及改进［D］.大连：大连海事大学，2008.

［7］刘双印.免疫人工鱼群神经网络的经济预测模型［J］.计算机工程与应用，2008，45（20）：226-229.

［8］莫宏伟.人工免疫系统原理与应用［M］.哈尔滨：哈尔滨工业大学出版社，2002.

Wavelet Neural Network Model Based on Modified Fish Swarm Algorithm

LIU Jie1，GAN Xu-sheng2，DAI Zhe2，WEI Ye3
（1.Xijing College，Xi’an 710123，China；2.Air Traffic Control and Navigation College，Air Force Engineering University，Xi’an 710051，China；3.Unit 93175 of PLA，Changchun 130051，China）

For the shortcoming on the algorithm of Wavelet Neural Network（WNN），a WNN modeling method based on modified Artificial Fish Swarm Algorithm（AFSA）is proposed.In the method，the chaotic initialization strategy and immune regulation mechanism are first introduced to overcome the inefficiency of simple AFSA，and then the modified AFSA is used to train the WNN model.The simulation result show that，the proposed method has a good ability with features of modeling accuracy，training time，controlling precocity and local convergence，and it is also effective and feasible for the modeling of nonlinear complex system.

wavelet neural network，artificial fish swarm algorithm，immune regulation，chaotic system

TP311

A

1002-0640（2015）12-0115-04

2014-12-15

2015-02-09

刘杰（1973-），男，陕西西安人，硕士。研究方向：计算机学科的数据库、编程等。