代磊超，冯 林，杨玉亭，尚兴林，苏 菡

(四川师范大学 计算机科学学院，成都 610101)

1 引 言

近年来，深度学习在图像、语音、自然语言处理等多个研究领域取得了成功应用.但是，现有的少样本学习模型大多需要标注足够多的训练数据，这个过程需要花费大量的人力与物力.而少样本学习只需标记少量样本，就能建立具有较高识别率的模型.因此，少样本学习成为目前机器学习研究领域的热点.

现有的少样本学习方法可总结为四类：基于元学习(Meta-learning)的方法、基于数据增强的方法、基于迁移学习(Transfer Learning)的方法和基于度量学习(Metric Learning)的方法.

元学习：基于元学习的目标是训练元学习模型，模型可以在多种不同学习任务上达到很好的效果.例如记忆增强神经网络模型(Memory-Augmented Neural Networks)是基于神经图灵机(Neural Turing Machine,NTM)提出的，它能在外部存储器模块作用下实现内容的存储访问[1]；模型无关自适应(Model-Agnostic Meta-Learning,MAML)使用少量迭代步骤就可得到很好的泛化性能，并且模型微调简单，无需关心模型形式，也不需增加新的参数，直接用梯度下降进行训练[2]；Ravi等人提出基于长短期记忆网络(Long Short-Term Memory,LSTM)的元学习(Meta LSTM)，它学习的是一个模型参数的更新函数或更新规则，不是在多轮episodes学习一个单模型，而是每个episode学习特定的模型[3]；元网络(Meta Net)由两个学习组件组成，一个基础学习器在任务输入空间执行，一个元学习器在任务不可知元空间执行，并且配备了一个外部存储器[4]；基于梯度下降(Stochastic Gradient Descent,SGD)的元学习(Meta SGD)可以学习更新方向和学习速率，并且可以在每个episode中进行有效的学习[5]；……