大规模多维网络数据分析框架的研究与实现*
2017-12-13王泽奥吴心宇张子兴
计算机与生活 2017年12期
王泽奥,吴 斌,吴心宇,张子兴
北京邮电大学 计算机学院,北京 100080
大规模多维网络数据分析框架的研究与实现*
王泽奥+,吴 斌,吴心宇,张子兴
北京邮电大学 计算机学院,北京 100080
随着互联网的快速发展和计算机应用的不断增加,大量的图数据特别是社会网络数据不断生成。多维信息网络已经成为表示这些图数据的通用方式。但是在多维信息网络中,节点的类型多种多样,节点的属性也不尽相同,如何对多维信息网络数据进行多角度多粒度的分析,挖掘其中的隐藏信息,成为人们关注的焦点。图联机分析处理技术(graph online analytical processing,GraphOLAP)可以对图数据进行快速的联机分析以及查询操作。借助于GraphOLAP的现有成果,针对多维信息网络的特点,提出了新的数据立方体框架。引入主节点的概念来指导元路径的生成,通过元路径指导网络的上卷下钻,提出属性转化和同质转化来丰富OLAP操作。最后讨论了优化的物化策略,使用并行计算框架Spark来实现算法,通过多个数据集验证了框架的有效性和高效性。
GraphOLAP;数据立方体;元路径;Spark
1 背景介绍
近年来随着社交网络、生物网络以及化合物网络等领域的不断发展,出现了大量的多属性图数据。研究如何对图数据进行多层次多角度的分析有着重要的意义。这些网络如DBLP合作网络、社交网络FACEBOOK、IMDB电影合作网络等,其中蕴含大量的实体信息以及实体之间的关联信息,深层次挖掘此类信息是非常有必要的。实体类型和联系的多元化是分析和挖掘此类信息网络的难点。……
登录APP查看全文