基于精英个体划分的变步长萤火虫算法的特征选择方法
2020-05-01刘磊,罗蓉,尹胜
刘 磊,罗 蓉,尹 胜
(重庆邮电大学 先进制造工程学院,重庆 400065)
0 引 言
特征选择(feature selection)是机器学习、数据挖掘任务中,对于高维或冗余特征数据集采取的一种数据预处理方法[1]。特征选择可以移除原数据集中冗余、不相关的噪音特征,从原数据集中获取一个最优的特征子集以提升机器学习模型的预测精度,同时最优特征子集相较于原特征集具有更少的特征数据,利用其进行机器学习模型的训练和预测可以极大地降低运行时间与数据存储方面的开销[2]。机器学习领域中主要有2类特征选择方式:过滤式(filter mode)和包装式(wrapper mode)[3]。包装式通常会取得比过滤式更好的特征选择结果,包装式比过滤式占用更长运算时间,在非海量数据规模且机器学习模型固定的情况下宜选用这种方式[4]。本文的特征选择方法为包装式的方法。特征选择算法像基于贪心或完备思想的算法[5]虽可在原始数据集上找到最优特征子集,但这些算法为找到全局最优解需要付出高昂的计算代价[6]。特征选择是一个0-1规划的组合优化问题[7],被证明是NP(non-deterministic polynomial)难题[8],而一些元启发式或生物启发式优化算法已在求解此类NP难组合优化问题中表现出了良好的性能[9],其在解决特征选择问题方面的研究[10-12],近年来受到学术界越来越多的关注[13],遗传算法(simple genetic algorithm,SGA)[14-15]与离散粒子群优化(binary particle swarm optimization,BPSO)[16-17]等传统生物启发式算法已成功用于特征选择优化。
萤火虫算法(firefly algorithm,FA)是新型的生物启发式群智能优化算法[18],FA因具有多目标优化能力[19],使其被国内外学者应用于旅行商问题[20-21]、背包问题[22]、系统效能优化[23]、特征选择[24-27]等组合优化问题的研究中。……
