深度图注意力聚类网络
2021-11-22苏晓明王海波董建敏
新一代信息技术 2021年18期
苏晓明,斯 琴,王海波,董建敏
(1. 内蒙古工业大学数据科学与应用学院,内蒙古 呼和浩特 010000;2. 内蒙古自治区纪检监察大数据实验室,内蒙古 呼和浩特 010000)
0 引言
聚类是通过学习分析数据的潜在分布,进而将相似的样本划入相同的簇。它是数据科学以及机器学习领域中的一个重要研究方向。传统的聚类算法包括基于划分的K-均值算法[6]、基于层次的 CURE算法[7]、基于概率分布的 EM 算法[8]以及基于密度的DBSCAN算法[9]。但是对于高维数据集,传统的聚类算法很难达到理想的聚类效果,会需要很高的内存消耗。虽然目前也有相关方法对原始高维数据进行降维,但是只能进行线性降维,而不能进行非线性关系映射处理。针对该问题,基于深度学习的聚类算法引发了众多学者的研究兴趣,它使用不同的非线性函数降维,减少噪声数据,提高数据有效性。
深度聚类算法的主要思想是将聚类目标融合进数据表达里面。例如Bo等[3]首次提出了深度聚类网络(Deep Clustering Network,DCN),它采用栈式自动编码器对数据进行非线性降维,使用包含K-均值原理[6]的损失函数去训练模型,使得模型更容易对数据进行K-均值划分。深度嵌入聚类网络(Deep Embedding Clustering,DEC)[4]通过 KL散度损失函数使得自动编码器生成的数据表达更接近聚类的中心,提高了内聚性。改进的深度嵌入聚类网络(Improved Deep Embedding Clustering,IDEC)[5]在 DEC模型的基础上添加了重建损失函数来帮助模型学习到更好的表达。但是这些方法只提取了有效的数据表达,没有考虑到数据结构信息对聚类目标准确性的影响。……
登录APP查看全文
