基于Hive和Impala的物流运力供应链数据仓库研究
2016-10-21任春华廖雪花唐思娩严余松孙尉筌
任春华,廖雪花,唐思娩,严余松,孙尉筌
(1.四川师范大学 计算机与科学技术学院,四川 成都 610101;2.西南交通大学 交通运输与物流学院,四川 成都 610031;3.西南交通大学 信息科学与技术学院,四川 成都 611756)
基于Hive和Impala的物流运力供应链数据仓库研究
任春华1,廖雪花1,唐思娩1,严余松2,孙尉筌3
(1.四川师范大学计算机与科学技术学院,四川成都610101;2.西南交通大学交通运输与物流学院,四川成都610031;3.西南交通大学信息科学与技术学院,四川成都611756)
针对物流行业中传统数据库在海量数据存储和交互性查询方面的不足,提出了基于Hive和Impala物流运力供应链数据仓库的构建方法,可以实现快速查询。最后搭建阿里云上的PC集群,对海量供应链数据进行查询分析测试,表明该数据仓库能满足海量物流运力供应链数据存储以及查询方面的需求。
Hive;Impala;物流运力供应链;海量数据;数据仓库
1 引言
近年来,随着物流行业的不断发展与进步,运力供应链数据信息量急剧增加[1],运力供应链是一条从顶端货主到底端司机的运输流网络,中间也存在着很多交互性的合作交易环节。海量数据存储和交互性查询分析使得传统数据库越来越难适应物流行业信息化的建设需求。随着“大数据”飞速发展的Hadoop和Hive应运而生,Hive海量数据存储技术基于MapReduce并行计算模式,能较好地满足当前大数据环境下的高并发、快增长的海量数据存储和计算需求。
因此,本文提出基于Hive的运力供应链数据仓库构建方案,同时,引用Impala的快速交互性查询,最终通过实验数据检测,能较好地解决物流运力供应链中不断增长的数据存储和查询分析的需求。……
