王 丽，王 涛，肖 巍，潘 超

(长春工业大学 计算机科学与工程学院，吉林 长春 130012)

0 引 言

特征选择是机器学习中的一个重要步骤，并广泛应用于各领域，在训练模型过程中，不相关的特征会干扰模型学习的正确性，而冗余的特征不会提供任何有用的信息，反而增加模型的复杂性。特征选择的任务是从高维原始特征空间中选出一组有效的特征子集[1]。特征选择方法通过搜索相关特征并移除不相关特征来寻找最优特征子集，提高模型的处理性能，减少处理数据维度[2]。

特征选择方法分为对特征重要性进行排序和选择特征子集两种[3]。前者是根据一些测量标准对特征进行排序，并相应地选择排在顶部的特征；后者使用评价指标对特征子集进行评价，并筛选关键特征。两种方法都可以使用基于过滤式或包裹式方法进行选择[4]。在过滤式特征选择中，使用一定的评价指标评估每个特征的质量，不考虑它对结果产生的影响。包裹式的特征选择则根据一个或一组分类器的结果来衡量每个特征的影响，与过滤式方法相比，包裹式方法的计算密度更高，在预测结果方面更准确。但过滤式方法计算更快，结果准确性稍逊色于包裹式方法[5]。

一部分学者将特征选择划分出嵌入式方法，嵌入式方法将特征选择过程与学习器训练过程融为一体，两者在同一个优化过程中完成，即在学习器训练过程中自动地进行特征选择[6]。

尽管在计算开销上嵌入式方法要比包裹式方法小，但在速度上仍然要比过滤式方法慢很多，并且特征选择的效果很大程度上依赖所选择的学习器[7]。……