基于网格技术的分布式大数据混合云存储方法研究
2021-09-10庄银霞
庄银霞











【摘 要】 为提升分布式大数据的存储能力,实现大数据的定向迁移与应用,提出基于网格技术的分布式大数据混合云存储方法。采用网格技术设计Hadoop型云框架、大数据调度模块、信息互感平台,完成分布式存储结构搭建。在此基础上,通过划分大数据存储关系,定义混合云存储的具体格式,实现分布式大数据混合云存储方法设计。实验结果表明,与传统分级信息存储方法相比,研究方法的大数据定向迁移速率达到4.5×107 T/h,存储容量的上限也明显提升,能够充分满足分布式大数据存储需求。
【关键词】 网格技术;分布式大数据;混合云存储;调度模块;互感平台;存储依赖度;定向迁移;
Research on Distributed Big Data Hybrid Cloud Storage Based on Grid Technology
ZHUANG Yin-xia
(Quanzhou University of Information Engineering,Quanzhou 362000,China)
【Abstract】 In order to improve the storage capacity of distributed big data and realize the directional migration and application of big data, a hybrid cloud storage method based on grid technology is proposed. Using grid technology to design Hadoop cloud framework, big data scheduling module, information mutual inductance platform, to complete the construction of distributed storage structure. On this basis, through the division of big data storage relationship, the specific format of hybrid cloud storage is defined to realize the design of hybrid cloud storage method for distributed big data. The experimental results show that compared with the traditional hierarchical information storage method, the directed migration rate of big data of the research method is 4.5×107 T/h, and the upper limit of storage capacity is also significantly improved, which can fully meet the requirements of distributed big data storage.
【Key words】 grid technology; distributed big data; hybrid cloud storage; scheduling module; mutual inductance platform; storage dependency; directional migration;
〔中圖分类号〕 TP393 〔文献标识码〕 A 〔文章编号〕 1674 - 3229(2021)01- 0000 - 00
0 引言
网格是一种具备超强存储能力与处理能力的新型IT网络,能够应对云环境下所有临时信息存储请求。在共享网络的支持下网格可直接统计不同连接处的计算机从属关系,从而建立完全虚拟化的超级计算机系统。在数据处理过程中,网格将各个计算机的多余处理器结合在一起,不仅提升了信息处理效率,也避免了复杂信息间套叠关系的出现[1]。网格技术以TCP/IP协议作为核心,与其它信息互联手段相比,这种方法可以在构建网格映射关系的同时,定义标准服务环境下的数据关系,不仅增强了计算机系统中对象管理效果,也解决了因不良网络服务而造成的信息干扰问题。
随着网络环境中待处理信息总量的提升,如何定义大数据的定向迁移与应用关系,已经成为了一种亟待解决的问题。……
