APP下载

类依赖特征选择算法在文本分类中的优化研究∗

2021-11-08黄荣乘

计算机与数字工程 2021年10期
关键词:分类特征文本

刘 云 肖 雪 黄荣乘

(昆明理工大学信息工程与自动化学院 昆明 650500)

1 引言

随着互联网技术的发展,大量电子文档出现日常生活中,文本分类技术[1~3]越来越重要。在文本分类过程中,文档的每个词都被看作一个特征。一个文档常具有数以万计个特征,由于这些特征大多数都是不相关或多余的,因此在分类过程中,这不仅增加了分类的计算复杂度,而且大量特征可能会对分类准确性产生负面影响。为了提高分类性能,有必要进行特征选择[4~5],通常利用卡方统计(CHI)[6~7]、信息增益(IG)[8~9]等特征评估函数来选取出重要特征以保留具有最大歧义的特征。

Baykan等提出了基于信息增益和粒子群优化的特征选择算法[10],该算法通过选择文档中特征的词根,创建特征向量空间,删除了使用频率较低的特征,然后基于粒子群优化算法对特征进行选择后,使用信息增益特征的重要性的降序排列。El⁃berrichi等提出了基于遗传算法的特征选择方法[11],该算法使用遗传算法选择具有较高适应度值的特征,找到具有最小维数的特征子集,使的分类性能最大化。

本文提出了一种类别依赖特征选择算法(CD),首先通过给定的训练集,基于卡方统计量计算出每个特征的特征评估值(FEF),根据所有特征的FEF值计算出每个训练文档的关联值(DR),然后由这些已知类别的训练文档的DR值,计算出这个类别的阈值CT,并挑选出DR值大于其类别阈值CT的所有同类训练文档,最后在同一类别下的训练文档中根据特征评估函数,每个训练文档都计算出一个具有最大FEF值的特征,挑选出每个训练文档中具有最大FEF值的特征构成了该类的特征向量FS。……

登录APP查看全文

猜你喜欢

分类特征文本
分类算一算
如何表达“特征”
在808DA上文本显示的改善
不忠诚的四个特征
基于doc2vec和TF-IDF的相似文本识别
教你一招:数的分类
文本之中·文本之外·文本之上——童话故事《坐井观天》的教学隐喻
如何快速走进文本
线性代数的应用特征