融合句法指导与字符注意力机制的案情阅读理解方法
2021-09-09何正海线岩团余正涛
何正海,线岩团*,王 蒙,余正涛
(1.昆明理工大学信息工程与自动化学院,昆明 650504;2.云南省人工智能重点实验室(昆明理工大学),昆明 650504)
0 引言
机器阅读理解在人工智能领域是一个挑战性的任务,它的意义在于测试机器理解自然语言的能力。面向案件裁判文书的案情阅读理解是一种抽取式阅读理解,要求机器根据给定的案件事实描述回答相关问题。案情阅读理解是机器阅读理解在司法领域的重要应用,有望辅助法官、律师以及公众以问答的方式获取案件信息。
近年来,随着深度学习技术的发展,出现了许多基于神经网络的阅读理解方法。相对于传统的基于规则的阅读理解方法,深度学习方法自动学习问句与篇章的语义特征,大幅提升了机器阅读理解的效果。基于深度学习的抽取式阅读理解,普遍的模型是将问题和篇章编码共同输入到模型当中,最后输出答案片段。研究人员通过使用卷积神经网络(Convolutional Neural Network,CNN)[1]、长短期记忆(Long Short Term Memory,LSTM)[2]、注意力机制Attention[3]或相结合的方式进行篇章语义理解。BiDAF(Bi-Directional Attention Flow for machine comprehension)[4]通过共享相似度矩阵做了问题到篇章和篇章到问题的双向注意力,在计算相似度矩阵时细化到篇章和问题当中的每一个词的词嵌入维度级的交互注意;FusionNet(fully-aware Fusion Network)提出了词历史概念,并以此为基础提出了一个全意识的多层次attention机制来捕获一个文本中的完整信息并逐层将其用于对等体[5];QANet(Question Answering Network architecture)[6]通过共享相似度矩阵把问题融入篇章不断地做卷积和自注意力进行特征提取,其中自注意力采用Vaswani等[3]研究的多头自注意力;……
