张雪，陈钰枫，徐金安，田凤占

（1.北京交通大学计算机与信息技术学院，北京 100044；2.北京天润融通科技股份有限公司，北京 100176）

0 引言

复述生成任务是给定一个原句生成与其语义相同但用词或句法不同的复述句，即生成与原句语义一致、表达具有多样性的句子。作为自然语言处理领域的基础研究课题之一，复述生成被广泛应用于其他下游任务中，如自动问答系统［1-2］、文本生成［3］、机器翻译［4］等，在这些场景下，复述生成可以作为一种有效的数据增强策略，通过生成高质量的复述句提高原始训练数据的多样性［5］，进而提升下游任务中模型的性能和鲁棒性［6］。

近年来，随着GPT［7］、BART［8］等生成式预训练模型被提出，复述生成技术已经取得了长足的进步，能够生成自然流利的复述句。基于这些预训练语言模型，使用复述语料对其进行微调就可以得到一个可用的复述生成模型。尽管这些技术已经能够满足一般场景的需求，然而在实际中文应用场景下，当前中文复述模型的词汇约束能力仍然较弱，导致其在一些特定场景下的应用受限。例如，在实际对话系统业务下意图识别任务的冷启动中，试图针对一条原句生成多条近义的复述句来增强意图识别模型的训练语料，为了保证生成结果的多样性，通常会使用随机采样的解码策略进行多次解码。然而，这种解码的随机性在缺乏约束的情况下会造成专有名词丢失的问题，导致生成的复述句与原句产生语义偏移，从而影响意图识别模型的准确率。……