基于自注意力机制Bi-LSTM的中文短文本情感分析
2020-10-24陶怡轩
福建质量管理 2020年19期
陶怡轩
(西北民族大学中国民族信息技术研究院 甘肃 兰州 730000)
一、引言
随着社交媒体及互联网平台的迅速发展,网民的规模迅速增长,越来越多的人喜欢通过社交媒体表达自己的观点和想法并从中获取有价值的信息,例如:时事新闻、头条信息、微博评论、电商买家评论,针对短文本进行情感倾向性分析,通常没有综合考虑文本中隐含的依赖关系和局部关键信息这一问题,提出自注意力机制和双向长短时记忆模型,利用双向长短时捕获上下文隐藏依赖关系,优化短文本特征稀疏的问题,利用自注意力机制加大对短文本中局部关键信息的注意力[1]。从中提取有价值信息,一直备受研究者们的关注。
文本情感分析是对带有情感色彩的主观性文本进行分析、处理、归纳和推理的过程。互联网(如博客和论坛等)上产生了大量的用户参与的、对于诸如人物、事件、产品等有价值的评论信息。这些评论信息表达了人们的各种情感色彩和情感倾向性,如喜、怒、哀、乐和批评、赞扬等。基于此,潜在的用户就可以通过浏览这些主观色彩的评论来了解大众舆论对于某一事件或产品的看法。循环神经网络(CNN)模型在处理时间序列数据方面更加有效,借助RNN的状态记忆单元,使得一个序列位置的输出在数学计算上与之前的所有时间序列上的输入都存在一定的关系,但是原生的RNN由于梯度的乘性问题,前面的序列影响近乎为0,长短时记忆网络(LSTM)的提出与实现,通过加入“门控”机制控制信息的传递改善了原生RNN的梯度消失或爆炸问题[1]。……
登录APP查看全文
