姚明海 黄展聪

(浙江工业大学信息工程学院 杭州 310023)

0 引 言

自2006年Hinton等人[1]采用逐层初始化解决深度神经网络训练以来，深度学习已广泛用于模式识别、图像理解、机器翻译等领域。2016年，深度学习模型在ImageNet图像集上的识别错误率已经低于人类[2]。然而，现有的深度学习模型训练都以监督学习为主[3]，为了训练包含巨大参数量的模型，需要大量的人工标注训练样本，并假设训练和应用场景数据属于同一分布。但在实际中，由于许多因素(如照明、姿态和图像质量等)的影响，训练和应用场景的样本分布往往不一致，使训练好的模型在应用场景下的性能严重降低。此时需要重新标注应用场景数据再进行训练，而为新任务标注数据集并重新训练是昂贵且耗时的过程，上述问题成为深层神经网络应用中新的难题。

领域自适应学习[4]是一种解决如何将分类器从训练场景迁移到与之不同的应用场景的新型机器学习方法，其中训练场景称为源域，应用场景称为目标域。源域和目标域的分布虽然不同，但是具有一定相关性，且只有源域数据具有标签信息，而目标域数据没有或者只有少量标签信息可用[5]。从领域自适应学习提出至今，学者们已经提出了许多方法。Fetzer等人[6]引入了深度域混淆(DDC)架构来学习最后隐藏层中源域和目标域的域不变特征。Long等人[7]不局限于仅适配单一层，提出了一种深度自适应网络(DAN)，进行多层适配来学习2个领域间的可迁移特征。……