基于双维注意力机制的事件要素识别方法
2021-10-25张顺香
安徽理工大学学报(自然科学版) 2021年4期
廖 涛,宋 杨,张顺香
(安徽理工大学计算机科学与工程学院,安徽 淮南 232001)
作为事件研究领域的基本任务,事件要素识别被广泛应用于信息检索、文本翻译、推荐系统等自然语言处理任务中。因此,事件要素识别技术及其理论研究受到越来越多研究机构和研究者的关注。如MUC(Message Understanding Conference)会议和ACE(Automatic Content Extraction)会议都是典型的含有事件要素识别任务的评测会议。
根据ACE会议和LIU等的定义,事件由事件触发词(或标志词)和描述事件结构的其他要素构成。事件要素识别旨在从非结构化的含有事件的文本中自动识别其中的时间、地点、动作等重要信息,并给予其准确的角色标注。以下给出一个事件要素识别的实例。
S1:下午3点,救援组官兵使用破拆工具对长安车进行破拆。
对于事件句S1,事件要素识别任务需识别出该句中第二个“破拆”为标志词,时间为“下午3点”,人物为“救援组官兵”,对象为“长安车”,工具或方法为“破拆工具”。
传统的机器学习方法将事件要素识别建模成分类任务,侧重于设计有效特征或核函数。基于特征的算法,如决策树等,在特定领域内可以取得较好效果,但规则的可移植性差,难以获取复杂句或跨句的模式。为此提出了基于核函数的方法,在英文数据集上取得了一定效果,但不适合结构相对英文更加松散的中文数据集。
基于深度学习的神经网络方法,如RNNs和CNNs等,逐渐成为机器学习的主流技术。尤其是近几年,随着注意力机制和Transformer架构被用于深度学习,注意力机制并行速度快且能直接建立长距离依赖关系,在一定程度上加速了神经网络对特征的提取,特别是事件要素识别等自然语言处理领域。……
登录APP查看全文