刘大鹏，曹永锋，张伦

（1.贵州师范大学数学科学学院，贵阳550025；2.贵州师范大学大数据与计算机科学学院，贵阳550025）

0 引言

近些年来深度学习在很多领域中都取得了十分显著的成效[1-3]。其取得显著效果的前提条件是需要数以万计的带有标签的样本，而获取这些标签（标注）需要消耗大量的金钱、时间和精力，成本十分昂贵。如何利用很少量的标注样本达到目标任务高性能是急迫解决的难题。

深度迁移学习和深度主动学习是应用于深度领域中解决标注样本不足的两类主流方法。深度迁移学习降低了训练样本必须与测试样本独立同分布的要求，尝试将知识从源域迁移到目标域，以提高深度模型的性能[4-5]。从空白开始训练一个目标任务模型需要大量目标域标注样本。而从一个与目标任务相关却不同的源任务模型开始训练目标任务模型，所需目标域标注样本将会大大减少[6]。此外，源域标注样本还可以直接为目标任务免费使用[7-8]。尽管如此，在多数情况下，将源任务模型调整到适应目标任务仍然需要较大数量的目标域标注样本。并且从源域中迁移的标注样本的分布可能与目标域分布差异很大，造成“负迁移”，使得模型的性能降低。

深度主动学习旨在对未标注样本集进行选择性采样并标注，通过使用最少量代表性的样本来最大化深度模型的性能，以此减少训练深度模型所需的标注数量[9]。虽然深度主动学习可以在一定程度上降低训练深度模型需要的标注成本，但是想要训练一个高性能的深度模型仍然需要大量的标注样本。……