张伟智 陈羽中 郭 昆 林涵阳

（1.福州大学数学与计算机科学学院 福州 350116）（2.福建省网络计算与智能信息处理重点实验室 福州 350116）（3.江苏实达迪美数据处理有限公司 昆山 215332）

1 引言

文本分类是自然语言处理中一项基本任务，在信息检索、搜索引擎、问答系统、主题分类、垃圾邮件检测、情感分析等领域发挥着十分重要的作用，其研究涉及到信号处理、统计学习、人工智能等研究领域。

国外的研究从20世纪50年代开始，H.PLuhn提出了词频概念，开创了文本分类的研究。至90年代，基于统计学习的文本分类方法成为主流。基于统计学习的文本分类方法所构造的分类模型依赖于人工设计的特征项，这些特征项主要包括词频、TF-IDF、互信息、N-Gram等［1］。应用较早的方法是朴素贝叶斯（Naive Bayes，NB）［2～3］，NB 是一种基于概率模型的分类方法，它基于词项之间不存在依赖关系以及词项在文档中出现的位置对概率的计算没有影响的假设，在已知文本属于每个类别的先验概率下，找出具有最大后验概率估计值的类别作为预测类别；K近邻（K-Nearest Neighbor，KNN）算法最初由Cover和Hart于1967年提出［4］，算法首先利用传统的向量空间模型将文本内容化为特征空间中的加权特征向量，然后计算测试文本与训练样本集中每个文本的相似度，找出K个最相似的文本，根据加权距离和判断测试文本所属的类别；SVM的应用是文本分类近几年来最重要的进展之一［5］，SVM算法通过将数据投射到高维空间，找出一个超平面，将不同类别的数据在高维空间分隔开来，在多项文本分类任务上均取得很好的表现；……