刘佳芮

（同济大学电子与信息工程学院，上海201804）

0 引言

随着社会分工的日益明确，几乎每个人都带有专业性的行业标签。然而快速迭代的经济发展模式需要人们不断学习才能更好地适应工作中的各种挑战，因此人们总会通过不断地补充大量的跨领域知识让自身在职场中一直保持竞争性。但是当人们需要去检索有关文献时，太过专业性的文本总会削弱对跨领域知识学习的求知欲。因此，本文旨在通过机器学习模型解决跨领域标题可读性和可理解的问题，并基于文本自身文意[1]得到更常语化的标题表达。传统的机器学习方法经常依赖于大量数据以支撑参数调整优化[3]，然而特定专业领域的数据往往由于上述假设过于严格而难以成立。事实上，这些领域的可用数据量较小，特别是有标签的数据样本更加难得，这使得训练样本不足以供复杂的机器学习算法进行训练并得到一个可靠的生成预测模型。

如何分析并挖掘小规模样本数据是现代机器学习最具有挑战性的前沿方向之一。在该环境背景下，迁移学习应运而生。该学习算法的主要优点在于避免了必须有足够可用的训练样本才能够学习到一个好的生成模型的束缚，因此迁移学习能够在彼此不同但又相互关联的两个领域间挖掘数据的本质特征和内在结构，这使得有监督参数信息得以在领域间实现迁移和复用。

摘要文本生成模型研究是当前自然语言处理中的难点和热点，其主要分为抽取式和生成式方法，前者通过直接获取原文中的相应句子并根据一定的排列方式构成摘要标题，后者与其的区别在于会自动生成一些在源文本中不存在的新单词或词组。……