类依赖特征选择算法在文本分类中的优化研究∗
2021-11-08黄荣乘
计算机与数字工程 2021年10期
刘 云 肖 雪 黄荣乘
(昆明理工大学信息工程与自动化学院 昆明 650500)
1 引言
随着互联网技术的发展,大量电子文档出现日常生活中,文本分类技术[1~3]越来越重要。在文本分类过程中,文档的每个词都被看作一个特征。一个文档常具有数以万计个特征,由于这些特征大多数都是不相关或多余的,因此在分类过程中,这不仅增加了分类的计算复杂度,而且大量特征可能会对分类准确性产生负面影响。为了提高分类性能,有必要进行特征选择[4~5],通常利用卡方统计(CHI)[6~7]、信息增益(IG)[8~9]等特征评估函数来选取出重要特征以保留具有最大歧义的特征。
Baykan等提出了基于信息增益和粒子群优化的特征选择算法[10],该算法通过选择文档中特征的词根,创建特征向量空间,删除了使用频率较低的特征,然后基于粒子群优化算法对特征进行选择后,使用信息增益特征的重要性的降序排列。El⁃berrichi等提出了基于遗传算法的特征选择方法[11],该算法使用遗传算法选择具有较高适应度值的特征,找到具有最小维数的特征子集,使的分类性能最大化。
本文提出了一种类别依赖特征选择算法(CD),首先通过给定的训练集,基于卡方统计量计算出每个特征的特征评估值(FEF),根据所有特征的FEF值计算出每个训练文档的关联值(DR),然后由这些已知类别的训练文档的DR值,计算出这个类别的阈值CT,并挑选出DR值大于其类别阈值CT的所有同类训练文档,最后在同一类别下的训练文档中根据特征评估函数,每个训练文档都计算出一个具有最大FEF值的特征,挑选出每个训练文档中具有最大FEF值的特征构成了该类的特征向量FS。……
登录APP查看全文
