时序图节点嵌入策略的研究∗
2021-05-23吴安彪马玉亮王国仁
吴安彪,袁 野,马玉亮,王国仁
1(东北大学 计算机科学与工程学院,辽宁 沈阳 110169)
2(北京理工大学 计算机学院,北京 100081)
3(东北大学 工商管理学院,辽宁 沈阳 110169)
基于计算机超高速的运算能力,人们设计出了面向高维数据、多层次的神经网络的模型.在深度学习领域中的图数据方向,由于图数据结构的非欧式属性,在神经网络研究初期,人们并没有找到一种针对图数据行之有效的网络模型.所以,如何将高维度的图数据结构抽象成低维度、结构性的向量,然后通过神经网络对得出的节点向量进行参数训练,是一件非常有挑战性的工作.
2009 年,Scarselli 等人[1]首次提出了图神经网络模型(graph neural network model,简称GNN)的概念,并且文中的基本也是通过整合邻居节点的属性来进行对节点的向量化表达,给出了一种图表达学习的研究雏形,一定程度上指导了后来一些研究者们在基于属性图表达学习方向的研究思路,但是在当时并未引起学者们的广泛关注.直到2014 年,随着DeepWalk[2]算法的提出,真正引爆了人们对图(节点)嵌入的研究热潮.受启发于自然语言处理中的word2vec[3]算法,DeepWalk 算法设计出了一种非常简单且有效的面向节点的向量表达方式,即通过skip-gram[3]模型训练各个节点随机游走出的序列(节点ID 序列),进行计算节点间的相似性和节点向量.而后在基于DeepWalk 算法的基础上,研究者们陆续提出了LINE[4],PTE[5],node2vec[6]以及stru2vec[7]等节点嵌入算法,但是这些算法都没有脱离DeepWalk 算法的原有框架,本质上说,相比较于DeepWalk 算法,这些算法只是在……
