大数据技术在海量测震数据中的研究应用
2017-06-15郭凯黄金刚彭克银庞丽娜
地震研究 2017年2期
关键词:大数据
郭凯 黄金刚 彭克银 庞丽娜
摘要:对目前主要的大数据技术进行探讨,并对大数据计算方法在测震数据中应用进行分析,设计了基于大数据技术的测震数据存储模型以及基于海量数据运行率管理的计算模型,编写了分别基于单机多线程和大数据环境的程序,并进行对比实验。结果表明:采用基于大数据技术的分布式管理和计算架构,可以较好地解决海量测震数据的管理困难、共享服务和科研计算方面的性能瓶颈。
关键词:大数据;测震数据;分布式管理
中图分类号:P31573文献标识码:A文章编号:1000-0666(2017)02-0317-07
0引言
大数据一般指大小超出常规的数据库获取、存储、管理和分析能力的数据集。大数据一般具有以下4个特征:大量化(VOLUME)、快速化(VELOCITY)、多样化(VARIETY)和价值化(VALUE)。近年来,大数据技术在计算性能、无限扩容等方面表现出巨大优势,因此,在医学、金融、科研领域已经得到了广泛的应用。
在“中国数字地震观测网络”项目完成后,我国的地震监测能力得到了很大提高。相比“九五”期间,“十五”计划完成后中国国家地震台网中心的技术系统得到了全面提升,无论在接入台站数量还是在数据处理效率上均有了较大的提升(侯建民等,2009)。2008年至2016年底,随着监测台网的不断完善和扩大,存储的测震连续波形数据已经超过了100 TB,每年还在以约12 TB的增量数据进行增加。如此海量的数据,如何做好管理、服务、以及分析处理具有很大的挑战性。以前基于文件、MySql数据库等方法进行管理的模式无论在数据管理、分析处理上都已经出现了很大的瓶颈,时间和效率上已经无法满足现在地震科学数据管理和科研的需求。……
登录APP查看全文
