基于深度学习的少样本研究综述*
2021-02-26卢依宏蔡坚勇曾远强
电讯技术 2021年1期
卢依宏,蔡坚勇,郑 华,曾远强
(福建师范大学 光电与信息工程学院,福州 350007)
0 引 言
由于基于深度学习的神经网络在目标特征的提取上具有无可比拟的优势,因此神经网络在图像处理领域中被广泛应用[1-3]。然而实验过程中发现,当训练数据非常少时,神经网络中的每个单元不得不考虑到每个样本中物体的定位和分类特征,整个神经网络会变得过拟合。因此少样本问题一直以来是深度学习研究中的一个难点[4]。
本文针对深度学习领域中少样本学习的问题,总结并分析经典及最新的方法,最后展望其未来的研究方向。
1 少样本问题的定义
在训练一个高效、精确的神经网络时,通常需要大量带有标签的数据,而在许多情况下每个类别只有一个或几个训练样本,如视频监控、卫星图像、异常检测等。同时,在如生物医疗图像识别任务中,往往会遇到特殊病例下患病样本与正常样本数极度不平衡的情况,这时正常样本数越多越影响网络性能。因此,将这种由于样本数不足或样本质量有严重偏差从而导致神经网络的性能严重下降的情况称为少样本问题。
与普通的只训练一类数据的神经网络不同,少样本学习训练集(支持集)有许多不同的类,每类又包含许多不同的样本,因此少样本学习又称为N-way、K-shot问题,其中N表示数据集共有N个类,K表示每个类中有K个样本。因为是少样本,所以K一般在1~20之间,实验中K往往取5、10、15。
2 基于深度神经网络的少样本学习方法
2.1 数据增强
数据增强是一种常用的数据处理方法。……
登录APP查看全文
