基于神经元特性的径向基函数神经网络自组织设计方法
2021-01-08贾丽杰李文静乔俊飞
贾丽杰,李文静,乔俊飞
(北京工业大学信息学部,北京 100124;计算智能和智能系统北京市重点实验室,北京 100124)
1 引言
径向基函数(radial basis function,RBF)神经网络因其结构简单、逼近能力强,以及收敛速度快、不易陷入局部极小值等优点,在模式识别[1-2]、信号处理[3]、故障诊断[4-5]、非线性系统建模[6-7]与自适应控制[8-10]等方面得到了广泛的应用.RBF神经网络结构设计和参数优化是其成功应用的关键.随着RBF网络应用环境复杂性的提高,传统的通过经验法和试凑法[11-12]来确定RBF网络结构的方法已经不能满足其实际应用.为了寻求一个可以根据处理对象自适应调整的RBF神经网络,大量的文章[13-22]对网络结构的自组织设计进行了深入的研究,主要包括:增长法[13]、修剪法[14]、增长-修剪法[15-22]、智能寻优法[23-25]等.
Platt等人[13]提出一种增长型资源分配网络模型(resource allocation network,RAN),可以根据处理的对象,通过隐含层神经元的连续生长构建网络结构,达到处理复杂信息的目的.它对RBF神经网络自组织的发展做出了巨大贡献,但是对于RAN,网络结构只增不减,网络中必然会出现冗余的神经元,这会影响网络的泛化性能.为了解决冗余神经元的问题,在RAN的基础上,Lu等人[15]提出了一种最小资源神经网络模型(minimal resource allocation network,MRAN),在自适应增加隐含层神经元的同时,还通过每个神经元对整个网络输出的贡献对神经元进行修剪,以减少RBF神经网络的复杂度,但是MRAN增加隐节点时具有一定的盲目性,新增加的隐节点的核函数中心随机确定,对网络的泛化性能会有一定影……
