于碧辉，王加存

(中国科学院大学，北京 100049)

(中国科学院 沈阳计算技术研究所，沈阳 110168)

1 引 言

基于自然语言理解的问答系统在过去几年的人工智能中一直是一个热门话题，而问答系统的基本任务，通常被认为是语义匹配任务，该任务的目标是从现有的数据库中搜索与输入问题具有相似意图的问题，语义匹配任务通常可以被视为二元分类问题，其输入是问题Q和候选答案A，系统被要求判断两个句子是否表达相同的含义.

1990年Bromley和LeCun提出孪生(Siamese)[1]神经网络模型用于解决公钥数字签名的验证问题.Siamese 神经网络是指结构相似或者结果相同的两个神经网络，模型的特点为：在训练过程中，两个结构相同的神经网络会被分开训练，然而，神经网络模型的参数权重是共享的，最后将两个神经网络的输出连接起来，将拼接结果输入到一个全连接层或其他层，最后连接一个全连接层或者其他层.孪生神经网络在人脸识别等相似度问题中，效果非常好，而句子与句子之间的语义匹配问题在本质上和图像领域中的人脸识别比较相似，所以在语义匹配任务中，应用孪生网络来计算句子相似度也是可行的.

为了训练孪生神经网络模型，需要定义模型的目标函数，由于语义匹配不是常规的分类问题，因此，常用的目标函数并不适合孪生神经网络模型.目前，孪生神经网络常用的损失函数为对比损失函数(Contrastive Loss)，令句子S1和句子S2 为孪生神经网络的输入，Y为指示……