刘家骅，韦 琬，陈 灏，杜彦涛

(1. 清华大学 计算机系，北京 100084；2. 北京奇点机智科技有限公司，北京 100080)

0 引言

机器阅读理解任务是自然语言处理的核心问题。近年来各个数据集的发布，大大推进了机器阅读理解任务的发展。最近，在由中国中文信息学会和中国计算机学会主办，百度公司、中国中文信息学会评测工委会和中国计算机学会中文信息技术专委会承办的2018机器阅读理解技术竞赛中，发布了一个大规模的源于真实搜索引擎任务场景的中文阅读理解数据集，这将对中文阅读理解领域的发展产生很大的推动作用。

与其他早前发布的数据集相比，本次比赛的数据有如下特点： (1)来源于真实数据，包含不同类型的问题。数据不但包括事实类问题，还包括大量意见型问题，而意见型问题常常对应多个答案； (2)问题对应的文档以网页全文的形式给出，其长度也大大超过常见阅读理解模型的限制； (3)包括百度搜索和百度知道两部分不同来源的数据，相互间存在很大差异。这些特点决定了这个数据集比以往的机器阅读理解数据集具有更大的挑战性。为了应对这些挑战，我们从数据预处理、特征表示、模型选择、损失函数的设定和训练方法的选择等多个方面对系统进行改进。实验表明，每个部分的改进都对结果的提高做出了贡献。最终，我们的系统在ROUGE-L和BLEU-4上分别取得了63.38和59.23的分数，获得了2018机器阅读理解技术竞赛的第一名。

接下来，我们将从竞赛数据集和评价方法、数据预处理、模型结构、实现细节、实验结果和样例分析等方面分节介绍我们的工作，并在结论部分对工作进行总结。……