基于注意力机制和图卷积的小样本分类网络
2021-10-14王晓茹
计算机工程与应用 2021年19期
王晓茹,张 珩
1.北京邮电大学 计算机学院,北京 100876
2.北京市网络系统与网络文化重点实验室,北京 100876
在过去的几年,利用深度神经网络,在很多图像识别数据集上的准确率已经取得了很大地提高。这些模型[1-4]往往都基于卷积神经网络,而且需要大量有标签的数据来训练。为了提高识别的准确率,网络向着更深和更复杂的方向发展,这无疑增加了网络参数,同时需要更多有标签的数据来训练。另一方面,基于传统深度神经网络的图像识别算法训练的模型往往只能识别训练数据中出现的类别,进一步限制了算法的应用和发展。不同于机器,人类通过几次甚至一次观察就能够识别图像的特征,当再次看到相同类别的图像时就能够准确地识别出来。希望机器也能够拥有这样的能力,所以在机器学习的领域中,一个新的方向逐渐受到大家的关注——小样本学习[5-6]。
小样本学习的目的是通过少数几张甚至一张有标签图像学习图像的类别信息。可以通过对传统的神经网络进行精细的调参来解决小样本学习问题。但是由于有标签的训练数据不足,很容易导致网络出现过拟合的现象。尽管能够通过数据增强和正则化的技巧减轻过拟合现象,但是并不能从根本上解决这个问题。
通过元学习[7]能够很好地解决小样本学习问题,目前已经有很多基于元学习思想的模型被提出。在元学习的训练阶段,会将训练集分为一个个元任务,然后用这一个个元任务去训练网络,即是指导网络如何去解决一个个元任务,而不是训练网络识别所有类别的图像。……
登录APP查看全文
