刘 亮，徐蔚鸿

长沙理工大学 计算机与通信工程学院，长沙 410114

模糊Hopfield网络的收敛性与鲁棒性分析

刘 亮，徐蔚鸿

长沙理工大学 计算机与通信工程学院，长沙 410114

1 引言

模糊Hopfield神经是模糊神经网络的一个基本类别，是模糊系统和Hopfield神经网络的互补式结合。模糊神经网络的主要研究方向包括学习方法的设计、网络结构优化、容错性、稳定性及鲁棒性等方面[1-6]。

近年来，众多学者对模糊神经网络进行了广泛研究，如刘普寅研究了Max-min模糊Hopfield神经网络的稳定性与容错性及学习算法[7]；徐蔚鸿研究了训练模式对的摄动对模糊双向联想记忆网络的影响及其控制[8]；Mehrnoosh Davanipoor提出了一种模糊小波神经网络的加速混合学习算法[9]；翟东海等提出了一种基于模糊神经网络的非线性系统的模型辨识方法[10]等。然而很少有对带阈值模糊神经网络情况的相关问题进行研究。

本次首次引入了带阈值的Max-T模糊Hopfield网

T 是映射 T:[0，1]2→[0，1]，T称为T-模，是指其满足以下4个条件：

（1）边界性：∀a∈[0，1]，aT1=a；

（2）交换律：∀a，b∈[0，1]，aTb=bTa；

（3）结合律：∀a，b，c∈[0，1]，aT(bTc)=(aTb)Tc；

（4）单调增：∀a，b，c，d∈[0，1]，若 a≤c，b≤d ，则aTb≤cTd。

“◦”是常规模糊关系合成运算，“◦T”是∨-T型模络模型，即将 n 个神经元1，2，…，n 互联，wij∈[0，1]表示神经元i至 j的连接权值，在每个神经元i处的阈值为ci。当输入模式运行此网络后，X(0)=(x1(0)，x2(0)，…，xn(0))∈[0，1]n网络按下式演化：糊关系合成运算，W=(wij)n×n是[0，1]上的阶连接权矩阵，wij为第i个和第 j个神经元之间的连接权。

2 相关概念及引理

定义2.6[8]当模式对(A，B)发生摄动后被变为(A+ΔA，B)，且 H(A+ΔA，B)≤γ时，称该模式对发生了最大前件γ摄动。当模式对(A,B)被变为(A,B+ΔB)，且H(A，B+ΔB)≤γ时，称模式对发生了后件最大γ摄动；当模式 (A,B)被变为 (A+ΔA,B+ΔB)且 H(A+ΔA，A)∨H(B+ΔB，B)≤γ时，称该模式对发生了最大γ摄动。

由于Hopfield网络的本身特点，它的训练模式不是成对出现的，因此它的训练模式的摄动可以这样定义：

定义2.7[12]当神经网络模型为模糊Hopfield网络时，若模式 (A)摄动后变为 (A+ΔA)，且 H(A+ΔA，A)≤γ时，称该模式发生了最大γ摄动。

定义2.8若对一切输入 X∈[0，1]n，由式（1）定义的Max-T-C FHNN能经过有限步迭代进入平衡点，则称网络具有良好的收敛性。

定义2.9假设Max-T-C模糊Hopfield神经网络采用学习算法 f，如果存在常数h＞0，对任意训练模式集，set={Ak|k=1，2，…，p}和 γk＞0，k=1，2，…，p，当各模式(Ak)发生任意最大γ摄动致使set变成新训练模式集合new_set，若对一切输入 X∈[0，1]n，基于原训练模式集该Max-T-C FHNN产生的输出 ft(X，set)∈{[0，1]m|t∈T}，和基于摄动后的训练模式集Max-T-C FHNN产生的输出 ft(X，new_set)∈{[0，1]m|t∈T}总满足 H(ft(X，set)，称采用学习算法 f的该Max-T-C FHNN对训练模式集全局拥有好的鲁棒性（即Max-T-C FHNN不放大训练模式集的最大摄动幅度）。其中 p代表任意模式数目。

引理2.1数学分析中Lipschitz条件是指：设g(a，b)是一个二元函数，D为定义域，若存在常数h＞0使得∀X1=(a1，b1)，∀X2=(a2，b2)∈D ，不等式 |g(X1)-g(X2)|≤h||X1-X2||则称 g(a，b)在D上满足Lipschitz条件（其中||·||是范数，它提示了函数值的变化与自变量的变化之间的一种关系）。

显然若a,b,c,d在其定义域D上满足|θ(a,b)-θ(c,d)|≤h(|a-c|∨|b-d|)成立，那么θ(a，b)在 D上满足系数为h的Lipschitz条件。

3 Max-T-C模糊Hopfield网络的收敛性及鲁棒性分析

文献[13]中提出了一种Max-T模糊Hopfield神经网络的通用的最大权值矩阵学习算法。

设 B={Bk|k∈K，Bk∈[0，1]n}是 Max-T FHNN 的稳定态集，通用的最大权值矩阵学习算法步骤为：

第一步：对第k个模式Bk，计算临时连接权矩阵；

第二步：用模糊交运算整合以上临时矩阵，得到最终权值矩阵；

性质1 设 set={Bk|k∈K，Bk∈[0，1]n}是模式集，则根据此学习算法所确定的连接权值学习矩阵W满足：

性质2 任意 set={Bk|k∈K，Bk∈[0，1]n}都可以成为Max-T-C FHNN网络的平衡点集合。

定理3.1采用最大权值矩阵学习算法时，Max-T-C FHNN系统具有良好的收敛性。

设采用最大权值矩阵学习算法训练网络所得的权值矩阵为W ，C为阈值向量，A为初始状态，系统在迭代一步后得到D，系统在迭代二步以后得到B。

显然系统在迭代一步之后便进入了平衡状态，所以Max-T-C FHNN具有良好的收敛性。

定理3.2采用最大权值学习算法时当T模及其蕴含算子R满足Lipschitz条件时，Max-T-C FHNN对训练模式集摄动全局拥有好的鲁棒性。

证明由于T模及其蕴含算子R满足Lipschitz条件，故有：

4 实验

以下给出了基于最大权值矩阵学习算法训练Max-T-C模糊Hopfield神经网络进行自联想实验，验证该模型的收敛性及分析采用最大权值矩阵学习算法时，训练模式集的摄动对网络的影响。实验采用大小为256×256的灰度图像，选用直积(П)T-模，显然此模满足Lipschitz条件，其运算为TП(a，b)=ab，相应的模糊蕴涵算子根据定义有 aRПb=1，a≤b；aRПb=b/a，a＞b。

实验步骤：

（1）取标准库灰度图像 Lena（见图 1（a）），大小为256×256作为摄动前训练模式集。把每h个像素的灰度值在归一化处理后构成n个训练模式，n=256/h×256。基于这些模式训练网络得到FHNN1。

图1 训练、输入图像

（2）将图1（a）的某些像素点减去一个微小量，且在顶部及底部增加一条比较小的黑色线条，得到摄动后的图像（见图1（b））。同样作为训练模式集，训练网络得到FHNN2。

（3）取一幅不同于图1（a）与图1（b）的新图像（见图1（c）），将其分割成n个子图像，并分别作为FHNN1的输入，得到n个输出，将其构成图2（a），并记录总的迭代次数 I1；同样将图1（b）分割后作为Max-T-C FHNN2的输入图像，分别得到n个输出，将其构成图2（b），记录总的迭代次数I2。

（4）图3（a）为两个训练模式集图像的差异，图3（b）为两个输出结果的差异，越黑的点表示在相应点处的灰度值差异越小，此处取h=128。

图2 输出图像

图3 比较图像

实验采用了相同的网络模型、相同的学习方法以及相同的输入，只有训练模式集存在小幅的差异。由实验结果可知，FHNN1与FHNN2的迭代次数均为512，时间复杂度亦均为O(n)，验证了所提出的网络模型具有良好的收敛性。根据图3可知，训练模式集的摄动引起了模型的输出差异，同时输出差异小于训练模式集的摄动差异，验证了该网络模型对训练模式的摄动具有全局不放大性质。

5 结论与展望

不确定性知识环境下获取的模式容易出现小幅误差。训练模式的摄动和输入模式的摄动将引起模糊神经网络的输出摄动甚至大幅变化，从而对网络多种性能和实用性可能产生严重副作用。严格证明了Max-T-C FHNN模型具有良好的收敛性及训练模式摄动全局不放大性质，对不确定知识环境下获取模式具有重要指导意义。

同时，在Max-T-C FHNN联想过程中，特别是在输入模式存在误差或畸变的条件下，分析模型能否联想出正确的模式是接下来值得研究的非常有意义的课题。

[1]Pizzileo B，Li Kang.Improved structure optimization for fuzzy-neural networks[J].IEEE Transactions on Fuzzy Systems，2012，20（6）：1076-1089.

[2]Zhang Huaguang，Liu Jinhai.Data-core-based fuzzy Min-Max neural network for pattern classification[J].IEEE Transactions on Neural Networks，2011，22（12）：2339-2352.

[3]Li Hongyi，Chen Bing，Zhou Qi.Robust stability for uncertain delayed fuzzy Hopfield neural networks with Markovian jumping parameters[J].IEEE Transactions on Systems Man and Cybernetics，2009，39（1）：94-102.

[4]张义荣，刘普寅，鲜明，等.基于一类T-模的模糊Hopfield网络的稳定性分析[J].电子学报，2002，30（1）：30-33.

[5]徐蔚鸿，陈国平，杨静宇，等.规则摄动时模糊蕴涵算子对模糊推理的鲁棒性的影响[J].计算机学报，2005，28（10）：1700-1707.

[6]舒桂清，肖平.模糊联想记忆网络的增强学习算法[J].电子学报，2003，8（1）：84-89.

[7]Liu Puyin.Max-min fuzzy Hopfield neural networks and an efficient learning algorithm[J].Fuzzy Sets and Systems，2000，112（20）：41-49.

[8]徐蔚鸿，宋鸾姣，李爱华.训练模式对的摄动对模糊双向联想记忆网络的影响和控制[J].计算机学报，2006，29（2）：337-344.

[9]Davanipoor M，Zekri M，Sheikholeslam F.Fuzzy wavelet neural network with an accelerated hybrid learning algorithm[J].IEEE Transactions on Fuzzy Systems，2012，20（3）：463-469.

[10]翟东海，李力，靳蕃，等.一种基于模糊神经网络的非线性系统模型的辨识[J].计算机学报，2004，27（4）：561-565.

[11]张义荣，刘普寅.离散Hopfield神经网络的稳定性研究[J].电子学报，2002，30（1）：30-33.

[12]宋丹.一类模糊Hopfield神经网络的摄动性质及其应用[D].长沙：长沙理工大学，2007.

[13]曾水玲，杨静宇，徐蔚鸿.一种模糊Hopfield网络的学习算法及性质[J].计算机科学，2010，37（12）：206-208.

[14]Repley B D.模式识别与神经网络[M].北京：人民邮电出版社，2009.

[15]王士同.神经模糊系统及其应用[M].北京：北京航空航天大学出版社，1998.

LIU Liang,XU Weihong

College of Computer&Communication Engineering,Changsha University of Science and Technology,Changsha 410114,China

Convergence and robustness are two important properties of fuzyy neural network.This paper analyses the convergence and robustness of Max-T fuzzy Hopfield neural network with threshold（called Max-T-C FHNN）in the condition of perturbations of training patterns,which is proved theoretically.It is discovered that Max-T-C FHNN using maximum weight matrix is of excellent convergence.Max-T-C FHNN holds good robustness globally to perturbations of training patterns in the case that T-norms and its implication operator satisfy the Lipschitz condition.The self-association experiment is given to testify the theoretical results.

threshold;fuzzy neural network;Max-T fuzzy Hopfield neural network;convergence;robustness

收敛性与鲁棒性是模糊神经网络的两个重要性质。对带阈值的Max-T模糊Hopfield神经网络（记为Max-T-C FHNN）的收敛性及在训练模式小幅摄动情况下的鲁棒性进行了分析，从理论上给出了严格的证明。发现了采用最大权值矩阵学习算法时，Max-T-C FHNN具有良好的收敛性，同时当T模及其蕴含算子满足Lipschitz条件时，Max-T-C FHNN对训练模式摄动全局拥有好的鲁棒性，用自联想实验验证了理论的有效性。

阈值；模糊神经网络；Max-T模糊Hopfield神经网络；收敛性；鲁棒性

A

TP18

10.3778/j.issn.1002-8331.1212-0246

LIU Liang,XU Weihong.Convergence and robustness analysis of fuzzy Hopfield neural network.Computer Engineering and Applications,2014,50（23）：73-76.

教育部重点科研项目（No.208098）；湖南省科技计划项目（No.2012FJ30052）。

刘亮（1987—），男，硕士研究生，主要研究方向：计算智能、模式识别；徐蔚鸿（1963—），男，博士，教授，主要研究方向：智能系统、模式识别、软件工程。E-mail：figolNew@163.com

2012-12-20

2013-02-21

1002-8331（2014）23-0073-04

CNKI网络优先出版：2013-03-21，http://www.cnki.net/kcms/detail/11.2127.TP.20130321.0939.002.html