李宝安，佘鑫鹏，常振宁，吕学强，游新冬

(北京信息科技大学 网络文化与数字传播北京市重点实验室，北京 100101)

0 引 言

随着深度学习在文本摘要领域的不断发展[1-5]，基于深度学习的文本摘要技术[6]，成为实现新闻自动化生产的方法之一。文本摘要技术始于抽取式摘要，近年逐渐发展为应用深度学习技术的生成式摘要，而在生成式摘要的领域内，又逐渐由单文档摘要发展为多文档摘要。生成式摘要较抽取式摘要更简洁连贯、概括性更强，多文档摘要较单文档摘要可处理更多文献、摘要信息更丰富。多文档生成式摘要技术既可用于生成文摘，亦可用于聚合式写作，是新闻自动化生产的核心技术。

本文针对新闻自动化生产的问题，基于Transformer[7]和指针生成网络[8]，提出了一种面向中文新闻文本的多文档生成式摘要模型：Transformer-PGN，该模型利用融合段落注意力机制的Transformer模型对中文文本进行特征表达和深层次的综合特征抽取，捕获跨文档关系，再通过指针生成网络生成聚合式新闻。实验结果表明，该模型在中文多文档摘要评测数据集WeiboSum上取得了良好的效果，Rouge-1、Rouge-2和Rouge-L分别提升了2.1%、2.4%和2.3%。

1 相关工作

在生成式摘要中，根据产生摘要的文档数量可分为单文档摘要、多文档摘要。

单文档生成式摘要指从一个文档中生成一个摘要，摘要的句子由机器生成，生成方式接近于人的思考方式，摘要需简洁凝练、具有一定的连贯性。近些年，生成式摘要的主流模型都是基于Seq2Seq框架[9]。Google提出基于指针生成网络的单文档生成式摘要模型[8]。……