安宏达,李正光,2,吴镝,郑巍

(1.大连交通大学 软件学院，辽宁 大连 116028;2.大连理工大学 计算机科学与技术学院，辽宁 大连 116023 )*

近年来，随着医学信息的快速发展积累了越来越多的医学文本，然而在这些庞大的数据中经常会有很多语义相近但文本描述却截然不同的句子，这无疑给医学研究带来很多不必要的麻烦.文本语义相似性评估成为解决这一问题的主要技术.

文本相似性，指的是对文本或句子之间相似程度的评价.最早的评估方法主要利用信息检索技术[1]等从文档中抽取文本结构，然后预测文本相似性.除此之外，还有词频共现自动评估算法[2]、单词(或字)与文本混合评估、短文本语义相似性抽取[3]等方法.这些方法都是通过检索或者神经网络的方法分别抽取两个句子的相似特征进行比较，但是这些方法只是单独抽取每个句子的相似特征，在抽取特征时没有考虑到两个句子间的影响.

孪生网络[4]通过两个共享参数的子网络同时抽取两个输入句子的语义特征对句子的相似性进行评估.不过，孪生网络结构在文本相似问题上虽然优于信息检索和词频共现的方法，但是它仍有很大的提升空间.注意力机制可以对孪生网络输出的两个语义特征再次加工，将与语义相关的特征放大，把无关的噪音缩小，这无疑可以提高预测的准确率.注意力机制主要可分为自注意力机制[5]和交互式注意力机制.自注意力机制可以将自身文……