任淑霞， 张 靖， 赵宗现， 饶冬章

（1 天津工业大学软件学院， 天津 300387； 2 天津工业大学计算机科学与技术学院， 天津 300387）

0 引 言

文本摘要生成是从输入文档中有效地压缩和提取信息，同时保留其关键内容的过程。 典型的摘要生成方法包括抽取式和生成式。 抽取式摘要技术通过在原文中选择一个句子子集来生成摘要，方法简单且内容与语法更准确，但存在着内容冗余、语义不一致以及信息缺失等问题；生成式摘要通过使用自然语言生成（NLP）方法产生具有理解力的新词或短语生成摘要，可以更好的理解文档，生成更符合人类所能理解的摘要。

Rush 等［1］受到神经机器翻译成功的启发，在2015 年首次将seq2seq 和注意力机制结合起来应用于文本摘要任务中；Chopra 等［2］提出模型编码器，同样使用卷积模型构造，但添加了输入单词的位置信息，而解码器则基于循环神经网络构造。 以上方法相比于传统的方法，效果有了极大的提升，但仍存在着未登录词（Out-Of Vocabulary，OOV）、生成重复以及长程依赖的问题。 2017 年，See 等［3］提出了一种带有覆盖的混合指针生成器架构（PTGEN）。 首先使用混合指针生成器网络，通过指向从源文档复制单词，有助于信息的准确再现，缓解OOV 问题，同时保留通过生成器生成新单词的能力；其次，使用一个覆盖机制来跟踪总结的内容，从而避免生成重复问题。 同年，Paulus 等［4］提出了一种用于生成式摘要的深度强化模型（DRM），该模型是对PTGEN 的改进，通过一个内注意力机制和一个新的学习目标来进一步解决生成重复的问题；……