高超　许翰林

摘 要： 目前支持向量机（SVM）对均衡文本数据集进行文本分类时表现十分良好，但如果文本数据集是不均衡的，尤其是当不均衡率很大时，容易导致支持向量机分类失败。提出PSO?SMOTE混合算法，针对不均衡文本数据集问题，运用SMOTE算法生成插值样本均衡数据集，并通过PSO算法迭代进化得到最佳的插值样本，对支持向量机的文本分类能力进行优化。实验结果表明，新算法大幅优化了支持向量机分类不均衡文本数据集的能力。

关键词： 混合算法； 支持向量机； 不均衡数据集； 插值样本； 文本分类； 迭代进化

中图分类号： TN911.1?34； TP391.9 文献标识码： A 文章编号： 1004?373X（2018）15?0183?04

Unbalanced text classification method based on support vector machine

GAO Chao， XU Hanlin

（School of Electronic & Information Engineering， Nanjing University of Information Science and Technology， Nanjing 210044， China）

Abstract： The support vector machine （SVM） performs well in text categorization of balanced text datasets， but will cause the classification failure when the text dataset is unbalanced， especially for high unbalanced ratio. The PSO?SMOTE hybrid algorithm is proposed to solve the unbalanced text datasets. The SMOTE （synthetic minority oversampling technique） algorithm is used to generate the balanced dataset of interpolation sample， and then the iterative evolution is performed for the interpolation sample by means of PSO algorithm to obtain the optimal interpolation sample， and optimize the text classification performance of SVM. The experimental results show that the new algorithm can greatly optimize the ability of SVM to classify the unbalanced text datasets.

Keywords： hybrid algorithm； support vector machine； unbalanced dataset； interpolation sample； text classification； iterative evolution

0 引 言

通常来说，文本分类的主要任务是将未被标记的文档自动分类到预定义的类别。常见的文本分类方法有支持向量机（Support Vector Machine，SVM）、K最近邻算法（KNN）和朴素贝叶斯（Native Bayes）等。学术界的许多学者也针对这些算法做出了改进研究。文獻[1]提出一种基于聚类的改进KNN算法。文献[2]提出一种加权补集贝叶斯文本分类算法。

与其他的文本分类方法相比，支持向量机因为其强大的理论背景以及在处理分类问题中所表现出的优异的泛化能力，越来越多的学者倾向于使用支持向量机进行文本分类。虽然支持向量机十分擅长对均衡文本数据集进行文本分类，但在面对不均衡文本数据集时的分类表现却差强人意。本文针对这一问题提出SMOTE?PSO混合算法对支持向量机进行优化。混合算法生成的最优插值样本均衡了数据集，改善了支持向量机分类不均衡文本集的表现。……