LSTM-TextCNN联合模型的短文本分类研究*
2020-07-13李志杰耿朝阳
西安工业大学学报 2020年3期
李志杰,耿朝阳,宋 鹏
(西安工业大学,计算机科学与工程学院,西安 710021)
互联网的迅猛发展,带来数据量的爆炸,电子文档信息越来越多,怎样对这些电子文档进行准确的分类是一个非常重要的问题。文本分类是给一个文档(一段文字)“粘上”一个或多个标签,以便对文档进行分类和管理。
由于文本的特殊性,传统的文本分类模型的分类效果往往不够理想,使用联合模型进行文本分类的分类效果较优于单模型。文献[1]提出了一种ATT-Capsule-BiLSTM模型,使用多头注意力机制(Multi-head Attention),结合胶囊网络(CapsuleNet)与双向长短期记忆网络(BiLSTM)方法对文本进行多标签分类,有效的提升了分类的性能。文献[2]将LSTM与其变型门控循环单元(Gated Recurrent Unit,GRU)也应用于标题的语义理解与领域分类,实验验证其性能可达81%的F1值。文献[3]将卷积神经网络引入到了自然语言处理中的许多任务,且都取得了良好的处理效果。文献[4]提出了一种基于上下文的图模型文本表示方法,使用一种类似于PageRank的图模型来建立词和词之间的相互推荐关系,该方法克服了传统文本表示认为词和词之间相互独立 ,忽略词的上下文环境的缺陷。文献[5]较全面地讨论了贝叶斯方法、k近邻方法和AdaBoost等3种中文文本分类方法,作者采用3个模型,实现了朴素贝叶斯分类器、k近邻分类器和Adaboost分类器三个中文文本分类器,集成了一个实用性较强的实验系统。
上述作者在实验的过程中为了获取文本信息,大多使用只能获取单一文本特征的单模型,而这种单模型获取到的文本信息在一定程度上并不能代表整个文本的信息[6-8]。……
登录APP查看全文
