基于深度学习的生成式文本摘要技术综述
2021-11-18朱永清赵菲菲慕晓冬尤轩昂
计算机工程 2021年11期
朱永清,赵 鹏,赵菲菲,慕晓冬,白 坤,尤轩昂
(1.火箭军工程大学 作战保障学院,西安 710025;2.陆军边海防学院,西安 710025)
0 概述
自动文本摘要技术最早应用于加拿大政府的天气预报工作,后来被应用于金融分析、医疗数据整理、法律文本处理等多个领域进行辅助决策。在神经网络和深度学习被广泛使用之前,大部分摘要类实现方法都是以抽取的方式,例如文献[1-3]利用基于图排序的摘要方法,文献[4]利用基于启发式规则的摘要方法,文献[5]利用基于有监督学习的摘要方法,文献[6-8]利用基于神经网络的摘要方法,文献[9-10]利用基于次模函数的摘要方法,文献[11-13]利用基于预训练模型的摘要方法,等。以上方法均可以理解为序列到序列的抽取式摘要方法,即从原文中分析并提取出最重要的原文完整句子,进行简单拼接后得到一个抽取式摘要结果。在现实中的人工条件下,摘要更多的是生成式的过程,即在阅读一段、一篇或多篇文段后,经过脑内抽象分析得到一个抽象理解,之后结合自己的知识结构输出为一段高度概括的内容。因此,随着深度学习的快速发展,自动文本摘要的方法逐渐由抽取式向生成式偏移。现已有不少国内[14-15]和国外[16-18]的研究人员对目前的自动文本摘要方法进行了综述分析,但是针对生成式自动文本摘要的文献综述,如文献[19-20],在直接将目前生成式自动文本摘要等价于基于深度学习后便不再深入分析,缺乏问题导向和足够深入的研究,对于目前最新研究成果分析不够充分。……
登录APP查看全文
