王丽亚，刘昌辉，蔡敦波，赵彤洲，王 梦

武汉工程大学计算机科学与工程学院，湖北 武汉 430205

情感分析［1］是自然语言处理领域的一个重要研究方向，文本情感分析的主要目的是从原始文本中提取出说话人的主观情绪，包括其针对某个对象的立场是褒扬还是贬损，其对某事件的态度是积极还是消极等等。

情感分析方法主要是基于有监督学习、基于语言学和基于深度学习的三类方法［2］。随着深度学习在图像处理和语音识别领域的成功应用，便逐渐将其应用到自然语言处理领域，其中情感分析就是一个很重要的研宄方向。Bengio 等［3］最早使用神经网络构建语言模型。Mikolov 等［4-5］于2013 年提出了word2vec 技术，推动了词向量的快速发展。Kim 等［6］对比了不同词向量构造方法，利用提前训练的词向量作为输入，通过卷积神经网络（convolutional neural network，CNN）实现句子级的文本分类。Lee 等［7］利用基于循环神经网络（recurrent neural network，RNN）和CNN 训练文本的向量，通过普通人工神经网络（ANN）实现文本分类，证明了添加文本序列信息可以提高分类的准确率。普通RNN 可以有效地利用近距离的语义信息［8-9］，RNN 有多种变种循环神经网络模型，长短时记忆网络（long short-term memory，LSTM）［10-11］，可以捕捉较远距离的两个文本元素之间的相互关系，获取更多文本序列信息。双向长短时记忆网络（bidirectional long short-term memory，BiLSTM）［12］，由两个LSTM 组合而成，一个前向传播、一个后向传播，可以有效地利用文本的上下文语义信息。Bahdanau 等［13］最早提出了注意力机制理论，并将其应用到了机器翻译领域。Mnih 等［14］在RNN 模型上使用了注意力机制来进行图像分类，使得注意力机制真正意义上流行了起来。……