罗涵天，杨雅婷+，马 博，董 瑞，李 晓

(1.中国科学院新疆理化技术研究所 多语种信息技术实验室，新疆 乌鲁木齐 830011；2.中国科学院大学 计算机科学与技术学院，北京 100049；3.中国科学院新疆理化技术研究所 新疆民族语音语言信息处理实验室，新疆 乌鲁木齐 830011)

0 引 言

方面级情感分析(aspect-based sentiment analysis，ABSA)的任务是对文本中一个或者多个对象进行情感极性的分类，为对象打上情感标签。给定一段文本sentence={W1，W2，W3，…，Wn}， 文本中包含s个方面词(aspect)，目标是预测s个方面词的情感极性。例如：I like apples，but I don’t like pears。其中apples和pears为方面词，其情感极性分别为正向和负向，而端到端的ABSA就是将方面词和情感极性同时抽取出来。

端到端ABSA任务中，样本的标签类别存在不平衡的问题。方面词标签在总标签数中所占的比例较小，而非方面词占据了绝大多数，这样会导致模型在训练的过程中过多的学习非方面词标签，使得非方面词标签的梯度权重过大。从损失函数的角度来说，以往常用的方法是使用交叉熵损失，交叉熵损失函数不能有效降低易分类类别标签的权重，而Focal损失虽然可以通过增加难分样本的权重来缓解标签类别不平衡，但一些诸如错标、漏标等潜在的离群点的样本标签仍然会对实验结果造成影响。因此，为了缓解端到端ABSA类别标签不平衡的问题，从梯度的角度出发是一个比较好的策略。本文提出使用梯度均衡损失来缓解此类问题，从梯度的角度对比不同的损失函数所带来的影响，并探究使用一种通过指数式递减加权的移动平均的方法，用来估计变量局部的均值，进一步从梯度的角度对实验结果进行探究。……