Contrastive graph clustering based on multi-level feature fusion andenhancement

Li Zhiming τ^{1a，1b，1c，2} ，Wei Hepinglat，Zhang Guangkangla，You Dianlong ρ_{，a，lb，lc，2} （1.a.Schloffotioneeamp;Ein，yoatofofareEgigfberoc，eybofor ComputerVirtalhlogamp;stmIntegationofHbeiProinceYashnUniersityQiangdaHbei，hina;.S search Institute ofYanshan University，Yanshan University，Shenzhen Guangdong 518o63，China）

Abstract：The majorityofexisting contrastivegraph clustering algorithmsfacethe following issues：theyignorethelow-level featuresand structural informationextracted byshalownetworkswhen generatingnoderepresentation.Thealgorithms neither fullutilizehighorderneighbornodeinformationnorintegrateconfidenceinformationwithtopologicalstructureinformationto construct positive sample pairs.Toaddress theabove issues，thispaper proposed acontrastive graph clustering algorithmbased onmulti-evelfeaturefusionandenhancement.Tealgorithmfirstlyintegratednodefeaturesextractedfromdiferentnetwork layerstoenrichthelow-levelstructural informationofodes.Itthenaggegatednodeinformationthroughthelocaltopolgical correlationsandglobalsemanticsimilaritiesbetweennodestoenhancethecontextualconstraintconsistencyofnoderepresentations.Finaly，combiningconfidenceinformationandtopologicalstructureinformation，thealgorithmconstructedmoreig quality positivesamplepairs to improvetheconsistencyof intra-clusterrepresentation.Theexperimental results showthat CGCMFFEhas excelent performance on four widelyused clustering evaluation metrics.Theoretical analysis and experimental studyunderscoretherucialroleoflow-levelodefeatures，hig-orderneighbornodeinformation，confidence，andtopological structure information in the CGCMFFE algorithm，providing evidence for its superiority.

Key words：multi-level feature fusion；contrastive graph clustering；unsupervised learning

0 引言

深度图聚类是一种利用深度学习将图中节点数据映射到低维稠密向量空间，并以无监督的方式将节点表示划分为若干个不相交簇的技术[1]。该技术在社交网络分析[2]、群组划分[3]新闻主题划分[4]等现实领域得到了广泛应用。图中节点表示的质量是深度图聚类效果的关键影响因素，而节点特征的提取方法[5-7]和正负样本对的构建策略[8＼～11]对节点表示的质量具有重要影响。

近年的相关研究工作也主要聚焦于节点特征提取方法和正负样本对的构建策略两方面。在节点特征提取方面， SDCN^[6] 利用传递算子，首次实现了将自动编码器（AE）提取的节点属性信息输人到图自动编码器（GAE）中，由GAE完成节点属性信息与拓扑结构信息的融合，并将GAE最深层网络输出的顶层特征用于聚类。基于SDCN，AIJSS[提出了双重交互融合模块，该模块将节点属性信息和拓扑结构信息逐层融合并在网络中交替传播，最终将融合模块中的最深层网络提取的顶层特征用于后续聚类任务。在正负样本对的构建策略方面，AGC-DRR和R2FGC[12]采用如图1（a）所示的传统对比策略，其中两个不同视图中的同一节点被视为正样本对，不同节点则被视为负样本对。在此基础上，SCAGC[13]利用聚类信息增加正样本对数量，将伪标签相同的节点视为正样本对，其他节点视为负样本对。

虽然以上算法在不同数据集上取得较好的聚类性能，但仍存在一些问题，主要包括：a）现有图聚类模型仅利用最深层网络输出的顶层特征生成节点表示并用于后续聚类任务，容易导致节点特征过度平滑，从而降低节点间的可区分度；……