基于无监督学习视觉特征的深度聚类方法
2021-11-10陈俊芬赵佳成翟俊海
南京航空航天大学学报 2021年5期
陈俊芬,赵佳成,翟俊海,李 艳
(1.河北大学数学与信息科学学院河北省机器学习与计算智能重点实验室,保定 071002;2.北京师范大学珠海分校应用数学学院,珠海 519087)
聚类是广泛应用于机器学习和数据挖掘领域的无监督学习方法。聚类结果依赖于聚类算法,也依赖于数据的特征表示,尤其是高维复杂数据(图像、语音和视频等)的特征表示显著影响着聚类性能。研究表明,在自动学习图像数据特征时,深层神经网络具有更强大的表达特征的能力[1]。2006年,Hinton 提出了深度(堆叠)自编码器(Autoen⁃coder,AE),他们在对MNIST 数据集的分类研究中发现,网络权值的调整主要依赖图像本身的信息量,而标签信息量只能微调网络权值[2]。另外,对数据进行标注需要消耗大量的资源,例如2012 年Hinton 团队在ImageNet 图像分类比赛中以极大的优势获得了胜利[3],但是为ImageNet 标注花费了2年多的时间[4]。因此采用无监督学习方法对无标签图像自动提取特征具有重要的理论与实际意义。提取特征常用的深度方法有受限玻尔兹曼机[5]、自编码器[6]、卷积自编码器[7]和生成式对抗网络[8]等。自编码器是一种非线性特征提取方法,它的对称结构可以进行无监督学习,最终得到高维输入的低维特征表示。
很多研究结合自编码器对图像数据进行聚类,基于自编码器的图像聚类分析通常包括两阶段:(1)自编码器对图片进行特征提取;(2)聚类算法对特征进行聚类。由文献[9⁃10]所提的深度聚类方法的实验发现,最终的聚类结果与自编码器的参数学习结果有很大关系,因此提取适合聚类的特征表示是研究的重点。……
登录APP查看全文
