基于BERT融合多模块的方面级情感分析
2021-03-01黄建民王雪绒李聪聪
黄建民,李 强,2,王雪绒,李聪聪
基于BERT融合多模块的方面级情感分析
黄建民1,*李 强1,2,王雪绒1,李聪聪1
(1.兰州财经大学信息工程学院,甘肃,兰州 730020;2.兰州财经大学电子商务综合重点实验室,甘肃,兰州 730020)
现有的BERT模型大多关注初始层到中间层的语法信息,而更高层的语义信息往往被忽略。由于判断句子情感是需要语义的,本研究在BERT模型的基础上加入并行聚合和层次聚合两个模块,分别用于方面抽取(AspectExtraction, AE)和方面情感分类(Aspect Sentiment Classification, ASC)。同时选择条件随机场(Conditional Random Fields,CRF)作为序列标记任务,从而提取到更多的语义信息。在SemEval 2014、SemEval 2016数据集上的实验结果显示,微调后的模型准确率和F1值均优于对比模型,证实了该模型的有效性。
BERT;序列标注;微调;情感分析
与句子级、篇章级情感分析任务[1-2]不同,方面级情感分析是一种细粒度情感分析任务,其目的是确定句子中目标的不同方面(也称“属性”,本文用“方面”表示)所表达的情感极性,其两个主要任务为方面抽取和方面情感分类。方面抽取任务的目标提取产品的特定方面,并在评论中表达一些情感。例如,在“There is a kettle on the table”这个句子中,kettle一词是被提取的方面。这个任务可以看作是一个序列标记任务,从三个字母集合{B, I, O}中给单词分配一个标签,序列中的每个单词可以是aspect term 的开始词(B),也可以属于aspect term之间 (I),或者不是aspect term (O)。方面情感分类是对某个对象的情感极性进行分类。任务描述可描述为给定一段文本 S = {w1, w2,…, wn},文本中包含 K 个 aspect terms(K ≥ 1),每个 aspect term = {wa_1, wa_2,…, wa_m} 都是文本 S 中连续的子序列。方面情感分类任务目标是预测某一个 aspect term 在文本 S 中的情感极性。……
