基于Cassandra的实时气象数据分布式存储系统
2017-08-02邢丽平杨代才
杨 芳,金 琪,邢丽平,杨代才
(湖北省气象信息与技术保障中心,武汉 430074)
基于Cassandra的实时气象数据分布式存储系统
杨 芳,金 琪,邢丽平,杨代才
(湖北省气象信息与技术保障中心,武汉 430074)
介绍了Cassandra关键技术、实时气象数据存储模型。湖北省运行MICAPS4采用基于Cassandra的分布式数据存储环境。对分布式存储系统高可用性、读取性能的测试结果表明,系统提高了MICAPS客户端对实时气象数据的检索效率,并极大减轻了各级台站的维护压力。
MICAPS4;气象数据;分布式;存储;Cassandra
随着气象观测资料种类的增加、观测频次的增多,在气象数据存储技术领域,基于目录树结构的文件系统难以承受文件数量的急剧增长,在管理大量的结构化与非结构化数据方面,也不能较好地满足业务人员对数据进行按序访问的需求。中国气象局推出的MICAPS(meteorological information comprehensive analysis processing system)4.0版本, 充分发挥了观测资料的作用, 满足了不断发展的预报业务和气象服务需求。湖北作为全国气象部门首家省级试点单位,2016年将MICAPS4.0投入测试运行。其后台数据环境引入非结构数据库Cassandra;采用多维索引数据模型的实时气象数据存储系统,在保证MICAPS客户端快速调用(毫秒级别)实时气象数据的同时,可为全省各级气象部门预报业务系统提供基于气象卫星、天气雷达和数值预报、站点实况等数据支撑,实现数据在省级单点更新,极大减轻台站的维护压力;可灵活地添加节点来实现存储系统扩充,而不给系统带来较大的性能抖动;与Spark结合,利用Spark来实现复杂数据分析与处理功能,如处理集合预报资料等。……
