PSO和Cholesky分解的KELM的基因表达数据分类
2016-08-01杜帮俊陆慧娟郑文斌
杜帮俊,陆慧娟,严 珂,郑文斌
(中国计量大学 信息工程学院,浙江 杭州 310018)
PSO和Cholesky分解的KELM的基因表达数据分类
杜帮俊,陆慧娟,严珂,郑文斌
(中国计量大学 信息工程学院,浙江 杭州 310018)
【摘要】核极限学习机(KELM)可使低维空间中线性不可分的数据变得线性可分,增加了ELM算法的鲁棒性,但KELM算法的输入权值参数采用随机初始化,容易导致算法不稳定.为此,本研究提出用粒子群优化算法对KELM中的权值初始参数进行优化、设定,以得到优化的分类器PSO-KELM.由于该算法输出权值求解采用传统的矩阵求逆运算,导致计算复杂,因此再对KELM的输出权值采用Cholesky分解进行优化.经一些标准基因数据集的实验表明,提出的PSO-KELM算法与已有的ELM、KELM、PSO-ELM相比分类精度更高,适用于基因表达数据分类.
【关键词】核极限学习机;粒子群优化算法;Cholesky分解;基因表达数据分类
传统的基于梯度下降的神经网络算法(如BP神经网络)已经被广泛应用于多层前馈神经网络的训练中,但是该网络存在学习速度慢、容易陷入局部极小,存在过训练现象[1].针对这些问题,Huang等[2]在2004年提出了一种新型前馈神经网络,即极限学习机(extreme learning machine, ELM),它具有结构简单、训练速度快、参数调整少等特点.
2012年,Huang等人[3]在ELM基础上加入核函数,提出了一种核极限学习机(kernel extreme learning machine,KELM),通过一个核函数将数据从低维空间映射到高维空间中,使得在低维空间中线性不可分的数据变得线性可分,在提高学习精度的同时增加算法的鲁棒性.与ELM相比,KELM具有更好的鲁棒性,在样本……
