基于词嵌入和自注意力机制的方面提取算法
2021-06-05吴杭鑫张云华
智能计算机与应用 2021年4期
吴杭鑫,张云华
(浙江理工大学 信息学院,杭州310018)
0 引 言
方面信息提取[1]是从给定原始文本中提取出表征实体、实体属性或反映实体某一侧面的信息。方面信息是方面情感的直接受体,一般为一个词语或者短语。例如,在句子“今天的晚餐既美味又实惠”中,“美味”和“实惠”分别评价了晚餐的两个不同侧面,且赋予了正向的情感极性,所以可作为方面信息提取出来。
方面提取任务是方面级别情感分类任务的前提和基础。近年来随着互联网的发展,越来越受到业界的关注。早期的研究人员主要采用基于语义特征的方法来训练模型[2-4]。但此类模型的性能受人为定义特征的影响较大,相对费时、费力,且对于研究人员的操作能力与资源质量有着较强的依赖性。近期,性能表现较好的方面提取算法,主要以基于词共现网络和基于图的方法为主[5-7]。
受上述方法的启发,本文提出基于词嵌入和自注意力机制的方面提取算法(World Embedding and Self-attention Model for Aspect Extraction,简 称WESM),主要工作如下:
(1)利用基于词汇共现网络的来进行方面提取,相较于传统的主题模型,能够有效克服短文本存在稀疏性等特点,可以发现一些不常见的主题。
(2)引入自注意力机制,解决由于长距离依赖问题而造成的上下文信息忽略问题,能够充分捕捉词的上下文语义信息。
(3)应用细粒度的汽车评论数据集及来自购物网站的抓取数据集,与当前主流相关算法进行了比较。实验结果表明,所提出的WESM模型的性能优于相关工作,适合于方面提取任务。……
登录APP查看全文
