APP下载

基于谱顶层分割的网络社区层次抽取方法①

2020-01-15

计算机系统应用 2020年1期
关键词:队列顶层尺度

熊 英

(江门开放大学 网络信息中心,江门 529000)

网络层次设计进行网络社区检测的有效方式,在社交网络、教育社区数据挖掘和犯罪特征识别等领域得到了广泛的应用.网络层次本质上是由不同尺度上社区内连接密度的异构性定义[1],若社区内的连接密度大于社区之间的连接密度,则网络社区组织结构具有层次性.将网络划分成若干个连接相对紧密的社区,每个社区又可能包含若干个连接相对更紧密的子社区[2–4].例如:存在一个具有40个节点的二层网络组织,设网络的一个社区Ci内部连接密度为p1,它到网络其余部分的密度为p0,则有p1>p0;如果社区 Ci由许多小的社区Cik构成,Cik的连接密度为p2,则有p2>p1.如何抽取网络层次社区结构是当前的一个重要研究热点[4].

抽取网络层次社区结构的主要方法是基于层次聚类方法[5,6],其思想是采用谱顶层分割的算法将k最近邻图划分成大量较小的子社区,并用相似的子社区反复地合并操作;文献[7]利用谱顶层分割的方法,提出了一种基于马尔可夫链的蒙特卡罗抽样技术预测丢失连接,用于推导复杂网络的层次,但由于其算法的抽取的空间较大,容易导致数据的维度问题;文献[8]提出了多层次节点相似的网络社区发现方法,在改进节点相似度和团体连接紧密度的基础上构建社区发现模型,从而更加准确地找到社区成员,但这种方法未考虑网络的层次的异构特性,且不能很好地适用于大型网络;文献[9,10]提出了多尺度方法揭示不同尺度下的社区结构,该方法对异构网络的检测具有较好的效果,但未考虑社区内外连接密度的动态变化和社区间的异构性,使该方法不能适用于动态演化的网络社区.

基于以上问题,提出了一种基于谱顶层分割的网络社区层次抽取方法,该方法将网络的顶层分割定义为某个子网络的二分使得没有任意一个顶层社区横跨两部分,并给出了顶层分割的期望划分;引入队列的思想计算社区连接密度,自顶向下逐层分解给定网络,提出社区层次抽取算法;通过实验验证所提出方法的科学性和合理性.

1 谱顶层分割

1.1 顶层分割

存在一个具有内部结构的网络N,所有构成它的第一层的社区称为关于该网络N的顶层社区,所有顶层社区的集合称为N的顶层分解,而使N的顶层分解中所有节点只存在于一个分组中的方法则为N 的谱顶层分割,进而形成一个网络的二分,使没有任何一个顶层分解跨越得到两个组.如图1所示,在具有两层网络组织结构中,P1和P2为网络N的顶层社区,社区C1和C2为P1的顶层社区,则P1-P2是网络的顶层分割,C1-C2是 P1的顶层分割.

图1 具有网络组织结构的顶层分割

谱顶层分割可以期望找到一个顶层分割或近似顶层分割,由于每次分裂总是试图找到模块度最大或者增量最大的二分,如果考虑更多的特征向量,找到一个顶层分割的机会将进一步增强.因此,为使顶层分割得到较高的模块度,需计算期望最高划分,从而选择连接密度最小的返回顶层分割.

1.2 谱顶层期望划分

设存在具有3个社区C1、C2和C3的随机网络,假设连接概率的如表1所示且p0

表1 社区内和社区间的连接概率配置

谱顶层分割设置了一个两层次网络,即由C1和C2构成的社区和C3形成了网络的第一层,而C1和C2形成了第二层.对于该网络,存在3个二分,即π1:(C1,C2)- (C3),π2:(C1,C3)- (C2)和π3:(C1)- (C2,C3).为进一步分析,将3个连接概率参数设置为:p0=0.1,pn=p0+kn×rn.其中,p0作为社区与社区之间划分的初始连接概率,pn在p0的计算基础上设置连接概率,并以kn和rn取值[0,1]中的随机数,这里统一取kn=0.5且rn=0.5,以保持网络层次的稳定性,以免在出现连接状态层次不统一问题.在给定一个网络N的前提下,设Q为期望划分值,对两个层次的期望则定义为:

式(1)中,mi和ki分别是社区i的尺寸和总度.通过计算期望划分值可以将连接密度最小社区作为顶层分割,进而对网络层次进行抽取.

2 网络层次社区抽取

2.1 连接密度计算

为获取连接密度最小的社区,引入队列思想对网络N自顶向下逐层分解,采用q_curr表示存储网络第h层的有待分析社区,q_work表示当前工作队列,q_next表示存储下一层社区.当初始化时,q_curr存储包含网络中所有节点的唯一组,从q_curr的队头中取出第一组并将其存入网络N,然后将其分解成两组网络数据N1和N2,并计算其连接密度:

式(2)中,E(N1,N2)表示网络N1和N2之间的边数,而计算连接密度是关于N的顶层社区间的连接密度的一个估计.

当N1和N2进入工作队列q_work时,都可能包含几个谱顶层分割.如果当前q_work非空,则可以从中取出第一组网络数据N1并对它进行分解;如果不可分,则N1被认为是一个顶层社区,否则它被划分为两个更小的组N11和N12,并实时检查它们之间的连接密度 δ1,计算是否超过谱顶层分割间连接密度的估计值δ∗0.如果计算结果大于估计值δ∗0,则此分割不属于h层分解,而属于h+1层分解.由此推知,N1是关于网络N的一个谱顶层分割,则N1进入q_next准备下一层分解,否则,N11和N12都可能是一个谱顶层分割或者几个谱顶层分割.因此,为进一步取代N1,需进入q_work调整估计值 δ∗0,调整估计值方法的思路是将原有的估计值在顶层分割次数的基础上对下一层网络分割后连接密度的预判,可以实时检测顶层分割后的每一层网络的连接概况,从而提高下一层分割的精准性.其计算方法如下:

式(3)中,n表示网络N从q_curr中取出后,执行顶层分割的次数,δ∗0表示新的值.当q_work为空时,表示从q_curr中取出的第一个组N1已经完全分解为它的顶层社区;而从q_curr中取出下一个组直到q_curr为空,将q_next中的组移到q_curr,并进行h+1层分析,重复上述过程得到调整后的估计值.

2.2 算法实现

抽取网络层次由算法1实现,在该算法中函数subspaceMethod (G,N1,N2,δ1,d)为搜索一个顶层分割,将N分解为两个组N1和G2,δ1为两部分间的连接密度,d指示了N是来自于q_curr(d=0)还是来自于q_work(d>0).符号“←”和“→”对应队列的两个基本操作,即“从队头取元素”和“存储数据到队尾”,而qa⇒qb表示将队列qa的所有数据移到另一个队列qb,算法实现如算法1.

算法1.层次抽取算法(伪代码)输入:q_curr,q_work,q_next输出:新的层次社区1)initialize q_curr,q_work,q_next 2)N→q_curr,h=0 //N表示整个网络3)while q_curr is not empty do 4)while q_curr is not empty do 5)N←q_curr, d=0 6)v=subspaceMethod (N,N1,N2,δ1,d)7)if v>0 then //N未被分解8)N1→q_work,N2→q_work,δ*=δ1 9)end if 10)while q_work is not empty do 11)N←q_work and v=subspaceMethod (N,N1,N2,δ1,d)12)if v<=0 then N→q_next δ∗<=β×δ∗13)else if //β确定一个划分是否属于下一个层次14)N1→q_work,N2→q_work update δ*15)d=d+1,compute(Q)//计算期望划分值16)else N→q_next //N为最顶层社区17)end if 18)end if 19)end while 20)end while 21)h=h+1 22)if q_next is not empty then output the communities at h level from qnext //返回新的层次社区⇒23)q_next q_curr 24)end if 25)end while

由于对网络分割的顺序取决于集合之间边的密度,因此上述算法可看作为一种有序的谱方法,首先搜索一个顶层分解并计算网络的特征向量,判断网络N是否被分解状态,然后进入队列进行顶层分割;在δ∗⇐β×δ∗中,参数β的选择确定一个划分是否属于下一层次,本文设置β=1.6,为实验测试设定一个稳定值,以解决该值太小导致连接密度的同质性较高以及异质性较强的问题.

3 实验分析

仿真实验在gephi软件平台上验证本文方法的有效性,数据来源于Rovirai Virgili[11]大学Email数据中的教师联系网络,该网络由7个主要学院的教师共640个节点构成的三层次网络,自顶向下分别为学院、系和研究组,网络第一层由4个160节点的社区构成,每个类似的社区在第二层分解为4个40节点的小社区构成,而每个小社区又在第三层包含了4个10节点的更小社区,网络的边按照各层的不同的连接密度生成的,满足p0

3.1 同质层次随机网络性能

对于数据源中学院、系、研究组,其每个层次具有相似的层次分布结构,在满足所有层次比例µ=k

图2 本文方法在层次随机网络的凝聚性精度

由图2可知,对于具有3个同质层的随机网络上的性能,每一个点是在10个实例网络上的平均,一个稳定的分割可能对应于某一层次的划分.

由图3可知,通过本文方法与多尺度法和同步法进行比较,说明了多尺度法和同步法对3个层次分割的精度.在最强凝聚情形0.785 和0.885下,虽然同步法在3个层次上都具有相当高的精度,但它的精度随着凝聚强度的下降而快速下降;多尺度法在精度和稳定性方面则更接近本文方法,但其规范化互信息仍然低于本文方法且不适应于动态演化的网络.

3.2 异质层次随机网络性能

由于在更小的网络社区中,其每一层所具有的社区的尺寸是完全不同的,因此需要在通过本文方法验证是否适用于尺寸异质的情形.由图4可知,通过实验,本文方法能够精确地抽取它的层次组织,其中粗线表示第一层划分,细线表示第二层划分,在第二层中社区内的不同灰度节点表示第三层的网络组织,可以显示层次抽取后的结果.

图3 层次随机网络的凝聚性比较

图4 异质随机网络的社区层次抽取结果

由图5可知,谱顶层划分与真实的划分完全一致,第二层和第三层精确地逼近真实的划分,按照互信息精度分别为0.93和0.81.同时,将本文方法与同步法和多尺度法做了比较,在第一层社区网络上,本文方法比同步法和多尺度法在规范化互信息性能上分别高0.05和0.15,计算精度损失较小,这是由于在第一层社区网络计算连接密度的数据量较大,而第二层次和第三层次社区网络上,本文方法比同步法和多尺度法在规范化互信息性能上的差距逐渐减少,这是由于本文方法引入了队列的思想,在空间不足的情形下通过不断调整连接密度的估计值,实时预判和分析下一层分割网络社区的密度,在期望划分的驱动下释放密度最小社区的相关节点,然后再计算连接密度的估计值,以此类推,得出最小社区.

4 结论与展望

针对网络的层次社区检测问题,提出了一种基于谱顶层分割的网络社区层次抽取方法,选取在线真实数据源作为实验数据,说明了该方法的科学性和合理性,为院校社区教育和大数据行为特征识别提供了相关技术基础支持,下一步将从大数据的角度对社区的层次进行抽取,利用语义特征检测的方法和大数据优化相关算法,对社区层次检测的语义性进行探索研究,以得出更好的实验效果.

图5 本文方法与同步法和多尺度法的规范化互信息比较

猜你喜欢

队列顶层尺度
环境史衰败论叙事的正误及其评判尺度
从顶层设计到落地实施
基于车车通讯的队列自动跟驰横向耦合模型
队列队形体育教案
队列里的小秘密
汽车顶层上的乘客
顶层住户的无奈——渗漏篇
青春的头屑
以长时间尺度看世界
9