基于改进梯形网络的半监督虚拟对抗训练模型
2021-01-22莫建文
桂林电子科技大学学报 2020年4期
莫建文, 贾 鹏
(桂林电子科技大学 信息与通信学院,广西 桂林 541004)
半监督分类是当前机器学习领域的一个重要研究方向。区别于传统的有监督分类算法,它能够基于标记样本,不依赖外界交互,自动地利用大量廉价的未标记样本提升学习性能。由于现实应用中利用未标记样本提升算法性能的巨大需求,半监督算法迅速成为了研究热点。
早期半监督学习算法中有较大影响力的是半监督自训练法和协同训练法。自训练法可看作是早期利用无标记样本的一种原始框架。先用少量标记样本初始化,然后分类大量无标记样本,选择可靠的伪标记样本扩充训练集,直到收敛。Li等[1]提出一种基于最优路径森林的自训练方法,其中所有样本作为最优路径森林的顶点相互连接,利用特征空间的结构和分布,帮助自训练法给未标记数据贴标签。Hyams等[2]基于自训练法,利用基于MC-dropout的置信区间作为置信度测量方法,得到改进的伪标记方法。Chen等[3]采用协同训练策略,并结合SVM算法进行分类器设计。该算法利用2个分类器对未标记样本进行分类,从而扩展标记样本,提高分类器性能。
随着深度学习在图像处理方面取得突破,半监督深度学习算法研究成为了自然的需求。许多学者通过优化网络结构构建的半监督分类学习框架都能取得不错的分类效果。如Springenberg[4]从损失函数的角度对网络优化,提出CAT-GAN,它改变了网络的训练误差,通过正则化信息最大化的框架提高了模型的鲁棒性。……
登录APP查看全文
