裴作飞 李兆玉 王云锋 姚立霜

(重庆邮电大学通信与信息工程学院 重庆 400065)

0 引 言

随着大数据时代的到来，有许多新兴的应用出现，如社交媒体服务、高分辨图像、文档数据分析等。这些大数据应用不仅包含冗余数据和低相关性的特征，并且维度过高导致维度灾难使得数据处理的复杂程度急剧增加，严重影响和限制数据分析和挖掘的性能[1]。为了解决上述问题，特征选择在不降低预测模型性能的前提下，按一定的选择标准从输入特征中选择相关特征子集，减少数据维度，消除分类性能差的特征，提高学习算法的性能[2]。

特征子集选择方法可分为过滤式、封装式和嵌入式。过滤式方法是在分类算法训练之前根据数据集自身的特性选择一个最优的特征子集，去除不必要的特征[3]。封装式方法利用分类算法的分类结果作为评价特征子集的指标，选择特征子集[4]。嵌入式方法将特征选择的过程作为分类算法的一部分，例如分类与回归树算法[5]。此外通过结合遗传算法(GA)[6-8]、蚁群算法(ACO)[9]、人工蜂群算法(ABC)[10]和模拟退火算法[11]等搜索策略，加快搜索进程选择最优特征子集。Sheen等[12]利用决策树作为分类算法，对比了三种过滤方法(CS、IG和Relief-F)选择出来的不同特征子集在KDDCUP99上的分类正确率，实验表明三种算法将KDDCUP99数据集的特征约减到15维度时检测率最好。陈友等[13]比较了过滤方法和封装方法，实验表明采用基于SVM分类器作为封装方法在TPR、FPR上的性能优于基于CFS的Filter特征选择方法。……