基于极性转移和LSTM递归网络的情感分析
2015-04-21柴玉梅原慧斌高明磊昝红英
梁 军,柴玉梅,原慧斌,高明磊,昝红英
(1. 郑州大学 信息工程学院,河南 郑州 450001;2. 中国核科技信息与经济研究院,北京 100048)
基于极性转移和LSTM递归网络的情感分析
梁 军1,柴玉梅1,原慧斌2,高明磊1,昝红英1
(1. 郑州大学 信息工程学院,河南 郑州 450001;2. 中国核科技信息与经济研究院,北京 100048)
长短时记忆(long short term memory,LSTM)是一种有效的链式循环神经网络(recurrent neural network,R2NN*为了与递归神经网络(Recursive Neural Network)进行区别,本文称之为R2NN。),被广泛用于语言模型、机器翻译、语音识别等领域。但由于该网络结构是一种链式结构,不能有效表征语言的结构层次信息,该文将LSTM扩展到基于树结构的递归神经网络(Recursive Neural Network,RNN)上,用于捕获文本更深层次的语义语法信息,并根据句子前后词语间的关联性引入情感极性转移模型。实验证明本文提出的模型优于LSTM、递归神经网络等。
LSTM,递归神经网络,情感分析
1 引言
近年来随着学者对深度学习的不断探索,其在图像、语音识别领域都取得了重大进展。与此同时NLP领域众多学者也在进行各种深入研究,尤其在利用神经网络进行语言模型建立、文本特征学习和短文本情感分析方向上都有突破。
在利用神经网络进行文本特征学习时首先要面对的问题就是对文本数据建模,通常有三种模型: 词袋模型(bag-of-words model)、序列化模型(sequence model)和结构化模型(structure model)。这三种模型各有优劣,对于词袋模型,文本被看作是无序的词汇集合,忽略语法甚至是单词的顺序,该模型被广泛应用于传统贝叶斯模型、LSA、LDA等文本分类模型中,被证明是简单有效的,但同时该模型的缺点也是十分明显的,它忽略了文本本身的语法语义信息所以很难捕获到文本中深层的语义信息。……
