基于多模态生成模型的半监督学习
2022-04-21陈亚瑞张芝慧杨剑宁王浩楠
天津科技大学学报 2022年2期
陈亚瑞,张芝慧,杨剑宁,王浩楠
(天津科技大学人工智能学院,天津300457)
在过去很长时间里,研究者的注意力主要集中在监督学习的问题上,换句话说,研究者主要基于标记数据训练分类器.随着大数据时代的到来,数据呈现爆炸式增长,从海量数据中获得每个数据的标签是比较困难的.“标记数据少,而未标记数据多”在大数据时代是越来越普遍的现象.
若利用监督学习方法,仅使用已有的少量有标记样本,不仅模型的泛化能力较差,而且浪费了大量未标记样本中的信息.半监督学习是一种介于监督学习和无监督学习之间的机器学习方法[1].半监督学习是充分利用样本中“廉价”的未标记样本,让学习器不依赖外界交互、自动地利用未标记样本提升学习性能[2].
在各类半监督学习方法中,基于生成方法(generative method)的半监督学习受到了研究者的极大关注[3].生成方法是基于生成模型(generative model)的一类方法,该类方法假设数据是由潜在的模型“生成”的.这个假设能通过潜在模型的参数将未标记数据与学习目标联系起来,其中未标记数据的标记可看作模型的缺失参数.深度生成模型[4-5],如变分自编码(variational auto-encoding,VAE)模型、生成对抗网络(generative adversarial network,GAN)等,通过将生成模型与多层神经网络相结合提高模型的表示能力,同时实现对图像的自动生成,在图像、视频处理方面有着重要的应用.
VAE是当前机器学习领域经典的深度生成模型之一,该模型于2013年由Kingma等[6]提出.该模型主要由推理模型和生……
登录APP查看全文
