融合子集特征级联预学习的封装方法研究
2021-12-09潘丽敏佟彤罗森林秦枭喃
北京理工大学学报 2021年11期
潘丽敏, 佟彤, 罗森林, 秦枭喃
(北京理工大学 信息系统及安全对抗实验中心,北京 100081)
特征选择是数据挖掘中广泛应用的数据处理技术,主要通过去除数据集中无关和冗余特征来减少数据维度[1]. 特征选择增强了数据的可理解性,有利于更好地进行数据可视化,提高学习准确性,减少学习算法的训练时间并且提高预测性能.
特征选择方法分为过滤法,封装法和嵌入法. 其中,过滤法是最经典的特征选择方法之一,其原理是在学习算法之前先进行特征过滤,根据一定的评价标准对特征进行排序[2]. 过滤法不依赖后续应用的分类器,因此具有高效的特征选择速度,一般不需要重复的模型训练及反馈过程,但忽略了特征与分类器之间的相互作用以及特征间的依赖性,所以可能无法选择出最佳的特征子集[3]. 为提高过滤法的特征搜索性能,KANIMOZHI等[4]提出了一种新的IF2S算法以及TIFMC算法来选择特征的最优子集. DITZLER等[5]提出了一个用于特征子集选择(SLSS)的顺序学习框架以减少不必要的复杂性. 相关方法主要关注于对提升过滤法中特征排序的效果,并尝试加入非模型类的反馈信息,指导特征搜索过程.
封装法则通过结合后续学习算法来评价、反馈并选择特征. 该方法相较于过滤法最显著的优点就是结合了特征受体模型的反馈信息,针对特定的后续模型选择“更适”特征,同时考虑了特征之间的依赖关系,给出了相较于过滤法准确度更高的结果……
登录APP查看全文
