粗糙互信息的不平衡多标记特征选择算法
2021-03-14史金成
安庆师范大学学报(自然科学版) 2021年1期
关键词:特征
陈 飞,史金成
(铜陵学院数学与计算机学院,安徽铜陵244061)
多标记学习作为一种流行的机器学习方法,得到了众多学者的关注与研究[1-3]。现实世界中也有大量多标记对象,例如一副自然风景图可以标上“蓝天”、“白云”、“沙漠”、“小草”等标记,一篇新闻可以属于“经济”、“文化”和“政治”等。为了尽可能地对样本进行准确标记,就需要对大量特征进行描述。大量的特征虽然会提高描述的准确性,但特征的增多会产生冗余特征或者不相关特征,这些特征会降低分类器的精度,增加算法运行时间。因此降低多标记的特征维数有重要的意义[4]。
目前,特征降维大致有两类方法:特征提取和特征选择。特征提取方法主要是通过特征之间的映射得到一组新的特征子集,但是在映射过程中会改变原始的特征信息,从而丢失一些原始信息,如线性判别分析[5]、依赖度最大化的多标记维数约简[6]等。特征选择方法利用一定的度量关系或评价指标得出一组特征序列或者特征子集,保持了原有特征空间的信息。目前,多数学者利用信息增益(Information Gain,IG)或互信息(Mutual Information,MI)作为评价指标对特征子集进行选择,并提出了多种行之有效的算法[7-9]。
在多标记学习框架之下,标记并不是均匀分布的,有些标记出现的频率高,能描述大部分样本,称之为高密度标记;有些标记出现的频率低,只能描述少部分样本,称之为低密度标记。这些低密度标记往往是由少数特征所决定的,这些特征可能与标记空间整体的相关性不高,但却可能是某些低密度标记的关键特征,如果仅仅考量与标记空间整体的相关性,那么这些特征会被删去从而影响分类器的分类精度。……
登录APP查看全文
