侯庆霖

（广州杰赛科技股份有限公司，广东 广州 510310）

1 引言

文本分类经历了基于知识工程向机器学习方法转变的历程[1]。以知识工程为主的文本分类算法由于其可移植性和通用性较差，逐渐被机器学习方法所取代。用于文本分类的机器学习方法有：向量机[2]、神经网络[3]、贝叶斯[4]及K近邻[5]等算法，这些算法都在文本分类的领域具有较好的性能。机器学习方法的文本分类研究主要由3方面构成：文本表示、空间维度约减以及文本分类器[6]。作为文本分类基础的文本表示（也称为特征表示或者特征选择）是文本分类好坏的基础，成为了当前最热门的研究课题。文本的特征学习技术在21世纪以来得到广泛的关注，词的分布表示最早由Hinton提出，实质上是将每一个词映射成k维实数向量[7]。在2013年，谷歌将连续词袋的Skip——Gram模型进行扩展，开源了基于深度神经网络学习的Woed2vec词向量学习工具，这是自然语言处理历史上一次重大的变革。但是由于中文文本本身具有近义词和同义词数量众多的特点，单纯的词向量模型已经无法满足文档的特征表示，因此文本将神经网络训练得到的向量空间模型与卡方检验算法结合，形成基于词向量的文本特征选择方法，弥补了使用卡方检验中存在的特征词“不完备”的特点。考虑到选取的特征词语集合不能表达特定学科领域的概念，本文对扩充后特征词集合构建候选术语网络；然后根据特征词向量的位置关系、词汇信息特征考察特征词之间的内部结合紧密度；……