基于支持向量机的文本分类技术
2014-08-30于飞李红莲吕学强
无线互联科技 2014年8期
于飞 李红莲 吕学强
摘 要:在文本分类过程中,影响分类准确率的两个重要因素是特征权重的计算方法,以及机器学习算法的准确率。针对传统基于支持向量机的文本分类准确率不高的问题,本文提出修正权重计算公式和采用调整支持向量机核函数参数的方法,使文本的分类准确率提高了近3个百分点。实验结果表明这两种方法的结合,确实可以提高文本分类的准确率。
关键词:文本分类;支持向量机;权重计算公式;核函数调参;特征向量权重
1 概述
文本分类作为信息过滤、信息检索、搜索引擎、网络论坛、数字图书馆等领域的技术基础,有着广泛的应用前景。如何应用机器学习实现按照文本内容自动分类技术是解决信息准确、快速检索的主要方法之一。
2 文本的向量空间模型表示
向量空间模型是通过权重表示的。传统的权重计算公式
其中ωij表示词项ti在文档Dj中的权重,N表示训练集中总的文档数,ni表示训练集中出现特征项ti的文档数,tfij表示词项ti在文档Dj中的频度(次数)。
针对公式的缺陷引出下面的改进措施,即用方差模型表示词项分布的离散程度。
以下叙述它的数学原理。将词项t在类C1文档集中出现的次数看作一个随机变量X1,假设Xi,i=1,2,…,m(m为类别总数)相互独立,且服从相同分布,则Xi,i=1,2,…,m构成简单随机样本。由统计学可知,样本方差S2是总体方差σ2的无偏估计,且总体服从任意分布。于是可以通过文本词项t的样本方差近似代替总体方差D(t),而总体方差反映的是词项t在各类中出现次数的波动情况。……
登录APP查看全文
