基于深度学习的中文文本分类方法
2021-04-22王景中王宝成
计算机工程与设计 2021年4期
肖 禹,王景中,王宝成
(北方工业大学 信息学院,北京 100144)
0 引 言
近年来,通过深度学习技术进行文本分类[1],并获取特征,在建模过程中融入特征学习,利用复杂的多层处理结构对数据高度抽象,有效取代了手工获取文本特征的方法[2]。文本分类的主要工作流程包括文本预处理、文本表示、特征提取和分类器的训练[3]。对于一篇文章而言,首先进行分词、去停用词等预处理操作[4]。接下来,通过词嵌入[5]的文本表示将文本表示为计算机可读的形式。下一步是构建文本分类模型,选择适宜的模型提取文本特征。最后采用合理的分类器进行训练,对文本进行分类,最终得到文本的类别。利用深度学习强大的学习与泛化能力[6]提取出的抽象特征要比人为设定的特征具有更强的泛化性,能够胜任多领域的分类任务。裴志利等[7]介绍了多种卷积神经网络(CNN)文本分类方法,然而,多层网络的叠加可能导致梯度消失的问题。李梅等[8]提出基于具有注意力机制的卷积模型,将CNN与注意力机制并行组合后,由长短期记忆(LSTM)网络隐层输出,能够提取短文本的显著细粒度特征,然而对于长文本的特征提取效果并不显著。本文提出深度学习混合模型ResCNN-LSTMA,旨在利用深度学习网络结构对中文文本进行分类,使用jieba进行分词预处理,使用CBOW模型进行文本表示,避免维度爆炸;通过含有残差结构的卷积网络,在降维的同时避免梯度消失的问题;通过具有注意力机制的LSTM结构,对长文本进行上下文的特征提取,保留句子中的重要特征。……
登录APP查看全文
