APP下载

面向文本特征选择的去冗余相对判别准则

2021-08-31王家琪张莉

山西大学学报(自然科学版) 2021年4期
关键词:分类特征文本

王家琪,张莉,2*

(1. 苏州大学 计算机科学与技术学院,江苏 苏州 215006;2. 苏州大学 江苏省计算机信息处理技术重点实验室,江苏 苏州 215006)

0 引言

文本作为当今互联网时代信息的主要载体,可以承载各类领域的信息,如新闻报道、商品评论、博客文章等,对文本信息的处理在大数据分析中占据重要地位。作为文本处理的一种技术,文本分类在情感分析、舆情分类、垃圾邮件检测以及各种现实领域都有着很重要的作用。基于机器学习方法的文本分类通常使用词袋模型(bag-of-words)来将文本数据转换为特征矩阵的形式[1],这样表示的文本数据具有很高的维度。为了避免维数灾难问题并获得好的分类性能,对之进行特征选择是非常必要的。

特征选择的主要任务是从原有特征集中选取在后续分类任务中表现最好的特征子集,一般分为封装法(wrapper method)、筛选法(filter method)以及嵌入法(embedded method)三类[2]。最早的封装法于1997 年由Kohavi 等人[3]提出,是一种与分类器相结合的特征选择方法,以分类器的性能作为选择标准。由于封装法直接依赖于分类算法来选择特征,因此在分类任务中可以有一个较好的性能。但是,此类算法的复杂度较高,计算代价较大。筛选法是目前最为常用的特征选择方法。筛选法独立于分类器算法,通过某种特征评价准则,选择最佳特征组合。目前常用的筛选法有互信息[4-5]、信息增益[6]、CHI[7]等。嵌入法结合了封装法和筛选法的特点,先使用某些机器学习的算法和模型进行训练,得到各个特征的权值系数,根据系数从大到小选择特征。……

登录APP查看全文

猜你喜欢

分类特征文本
分类算一算
如何表达“特征”
在808DA上文本显示的改善
不忠诚的四个特征
基于doc2vec和TF-IDF的相似文本识别
教你一招:数的分类
文本之中·文本之外·文本之上——童话故事《坐井观天》的教学隐喻
如何快速走进文本
线性代数的应用特征