基于BERT模型的文本评论情感分析
2021-06-03杨文军
天津理工大学学报 2021年2期
杨 杰,杨文军
(天津理工大学 计算机科学与工程学院,天津 300384)
自然语言处理中的情感分析任务,是采用计算机辅助手段,基于文本,分析人们对于产品、服务、组织、个人、事件、主题及其属性等实体对象所持的意见、情感、评价、看法和态度主观的感受[1].
文本情感分析(Sentiment Analysis)是指利用自然语言处理和文本挖掘技术,对带有情感色彩的主观性文本进行分析、处理和抽取的过程.文本分类在情感分析中应用,从而引申出了文本分类技术.文本分类利用自然语言处理、数据挖掘和机器学习等技术,可以有效地对不同类型的文本进行分析[2].随着深度学习概念的大火,研究者逐渐尝试使用深度学习模型处理文本分类任务.其中模型大致可以分为两类,卷积神经网络(CNN)[3]和循环神经网络(RNN).
本文中的情感分析的研究是通过对文本评论进行情感分类,即对文本内容进行特征提取后再进行文本分类任务[4].
1 相关概念
1.1 Word2Vector
Word2Vector是Google在2013年开源的一款用于词向量计算的工具.在原文中,作者提出了两个新颖的模型架构用来计算大规模数据集中的连续词向量,分别是CBOW(Continuous Bag-of-Word Model)模型架构与Skip-gram模型架构.其中CBOW模型的训练输入是某一个特征词的上下文相关的词对应的词向量,而输出就是这特定的一个词的词向量,Skip-Gram模型和CBOW的思路是反着来的,即输入是特定的一个词的词向量,而输出是特定词对应的上下文词向量.Word2Vector是从大量文本语料中以有监督的方式学习语义知识的一种模型.其……
登录APP查看全文
