APP下载

基于特征贡献度的特征选择方法在文本分类中应用

2011-02-08孟佳娜林鸿飞李彦鹏

大连理工大学学报 2011年4期
关键词:分类特征文本

孟佳娜, 林鸿飞, 李彦鹏

(1.大连理工大学计算机科学与工程系,辽宁大连 116024;2.大连民族学院理学院,辽宁大连 116600)

0 引 言

文本分类是信息检索与数据挖掘领域的研究热点问题,其核心任务为根据给定的训练数据,构造高性能的分类器,实现对新文本的自动分类.在实际应用中,根据预定义类别的数量不同,分类系统可分为两类分类器和多类分类器两种.从文本所属类别的个数来看,文本分类技术又可以分为单标签和多标签两种.

文本分类的主要算法包括朴素贝叶斯方法[1、2]、KNN[3]、最大熵方法[4]、神经网络[5]、支持向量机[6]方法等.最常用的文本特征表示模型是向量空间模型(vector space model,VSM),这种方法将分类文档中出现的全部词条作为特征,将分类空间视为一组正交词条向量所张成的向量空间,原始空间的维数十分巨大,因此,找到一种有效的特征选择方法显得至关重要.文本分类中常用的特征选择方法有文档频率(document frequency,DF)[7]、互信息(mutual information,MI)[7]、χ2统计(chi-square statistic,CHI)[7]及几率比(odds ratio,OR)[8]等.文献[7]比较了一些常用的特征选择方法,并指出χ2统计和信息增益方法是最有效的,其次是文档频率和互信息.文献[8]提出了几率比的特征选择方法,仅使用了多分类的朴素贝叶斯分类器在reuters-21578语料集上进行了实验,并与其他方法进行了比较,同时提出该方法是效果最好的特征选择方法.人们利用这些特征评价函数从不同的知识角度对特征项与文本之间的相关程度进行了研究[9、10],文献[9]使用SVM分类器分析了不同特征选择……

登录APP查看全文

猜你喜欢

分类特征文本
分类算一算
如何表达“特征”
在808DA上文本显示的改善
不忠诚的四个特征
基于doc2vec和TF-IDF的相似文本识别
教你一招:数的分类
文本之中·文本之外·文本之上——童话故事《坐井观天》的教学隐喻
如何快速走进文本
线性代数的应用特征