喻 航，李红莲，吕学强

(1.北京信息科技大学 信息与通信工程学院，北京 100101； 2.北京信息科技大学 网络文化与数字传播北京市重点实验室，北京 100101)

0 引 言

各级人大在不断完善自身的工作方式，在人大建设的过程中，信息化建设[1]越来越受到工作人员的重视。人大相关工作的总结，所需要的信息量巨大，类别广泛，想要准确找到相对应的工作内容，检索起来并不容易。所以，人大报告辅助生成系统的建立，就需要对文本分类，把文本分成不同的内容写入报告。

文本分类技术是自然语言处理学科领域中一项基本技术[2]。传统机器学习中一般采用Naive-Bayes分类[3]、KNN[4]、SVM[5]、逻辑回归[6]或者随机森林[7]等分类方法。应当依据具体情况来挑选适当的文本分类器。如果遇到巨大数据量，特征向量也非常多时，就要用到神经网络的深度学习模型。

本文对人大报告中必要的两大部分进行文本分类，监督工作和代表工作是每年人大报告中最重要的两大部分，其相关工作内容的资料在收集时较难区分资料的所属类别，用结合TF-IDF的ERNIE文本分类模型可以帮助人大工作人员，在众多的资料中快速准确地分辨监督工作和代表工作。采用了加入TF-IDF的ERNIE模型对人大报告文本分类，其准确率、召回率和F1得分有所提高，收敛速度明显加快。

1 文本分类流程

人大报告的写作内容较为固定。有以下特点，人大报告篇幅长，特征词汇多，篇章结构格式鲜明。在分类之前先对文本预处理。预处理之后进行特征提取。……