秦汉忠,于重重,姜伟杰,赵 霞

(北京工商大学 人工智能学院，北京 100048)

0 引言

人机对话系统是一个复杂的研究方向，构建人机对话系统的方法之一是检索式方法[1]。检索式方法首先需提取输入对话的特征，随后在候选回复库匹配多个目标候选回复，按照某种指标进行排序，输出得分最高的回复。将之前的对话输出作为历史对话，即形成多轮对话的形式。

近年来，随着深度学习的发展，关于人机对话的研究重点逐渐由基于模板、规则的传统方法转变为基于端到端的深度学习模型方法。Wu等人[2]提出序列匹配网络(Sequence Matching Network，SMN)模型，模型可分为“表示—匹配—融合”三个部分，整体上基于CNN和RNN实现以语义融合为中心的多轮对话回复选择。Zhang等人[3]提出深度表达融合(Deep Utterance Aggregation，DUA)模型，针对SMN模型将历史对话直接拼接为上下文存在噪声和冗余的问题，采用注意力机制挖掘关键信息并忽略冗余信息，最终获得对话表达和候选响应的匹配得分。Zhou等人[4]提出深度注意力匹配(Deep Attention Matching，DAM)模型。在SMN模型的基础上，省去CNN和RNN等结构，仅依靠注意力机制完成多轮对话的回复选择，使模型参数大量减少，大幅提升了训练速度。

在基于深度学习的检索式多轮对话系统研究领域中，DAM模型与SMN模型、DUA模型同属于以复杂的层级结构提取多粒度特征的模型。除该类模型外，过去的相关研究还包含两类模型，一类是早期利用句子编码器提取序列简单特征的模型，另一类是利用注意力机制提取序列关键匹配特征的模型。……