王新环　刘志超

摘 要：針对传统极限学习机（ELM）缺乏有效的训练方法、应用时预测精度不理想这一弱点，提出了一种基于遗传算法（GA）训练极限学习机（GA-ELM）的方法。在该方法中，ELM的输入权值和隐藏层节点阈值映射为GA的染色体向量，GA的适应度函数对应ELM的训练误差；通过GA的遗传操作训练ELM，选出使ELM网络误差最小的输入权值和阈值，从而改善ELM的泛化性能。通过与ELM、I-ELM、OS-ELM、B-ELM4种方法的仿真结果对比，表明遗传算法有效地改善了ELM网络的预测精度和泛化能力。

关键词：遗传算法；极限学习机；权值；阈值

DOI：10.11907/rjdk.171419

中图分类号：TP312 文献标识码：A 文章编号：1672-7800（2017）009-0079-04

Abstract：In order to improve the prediction accuracy of traditional Extreme Learning Machine （ELM） algorithm. Aim to overcome the lack of effective training methods for traditional extreme learning machine （ELM）， the prediction accuracy is not ideal .We proposed a method which based on genetic algorithm （GA） training Extreme Learning Machine. In this method， the initial input weights and threshold vector of ELM maps to the chromosome vector of GA， and the fitness function of GA corresponds to the training error of ELM；By means of the GA to train ELM， improve the ELMs generalization capacity. Comparing the simulation results of GA-ELM with ELM， I-ELM， OS-ELM， B-ELM， the simulation results show that the genetic algorithm can effectively improve the prediction accuracy and generalization ability of ELM network.

Key Words：genetic algorithm； extreme learning machine； weight

0 引言

Huang G B等[1] 于 2006 年在传统神经网络的基础上，提出了极限学习机（Extreme Learning Machine，ELM）算法，它属于单隐藏层前馈神经网络（SLFNs），具有自适应能力和自主学习特点，主要应用于图像分割、故障诊断、数据挖掘自动控制等领域[2-4]。该算法通过对单隐藏层前馈神经网络的输入权值和隐藏层节点的阈值随机赋值，用最小二乘法求解得到输出权值，极大提高了网络训练速度和泛化能力[5-6]。但是，在解决梯度下降问题时，随机产生网络的输入权值和隐藏层节点的阈值向量参数不能保证训练出的ELM模型达到最优，有收敛速度慢等问题。针对这些问题，陈绍炜等[7]提出利用蝙蝠算法优化ELM，王杰等[8]提出了粒子群优化的极限学习机，张卫辉等[9]提出了DE-ELM，这些方法都有可能出现早熟，陷入局部最优。

遗传算法（genetic algorithm，GA）是模拟达尔文生物进化论的自然选择和遗传学机理的生物进化过程的计算模型，是一种基于概率转换规则的全局搜索优化方法[10]。……