基于Hadoop的自动售票日志分析系统设计
2014-08-01蒋秋华
王 斌,李 超,蒋秋华
(1.中国铁道科学研究院 研究生部,北京 100081;2.中国铁道科学研究院 电子计算技术研究所,北京 100081)
基于Hadoop的自动售票日志分析系统设计
王 斌1,李 超2,蒋秋华2
(1.中国铁道科学研究院 研究生部,北京 100081;2.中国铁道科学研究院 电子计算技术研究所,北京 100081)
通过对自动售票系统日志数据分析,不仅能了解系统的运行状况,还能在日常维护中更容易地发现问题,降低维护成本,提高维护的效率。针对这一目的,本文基于Hadoop框架设计一个自动售票系统的日志分析系统,搭建Hadoop集群环境,并对处于不同自动售票应用服务器上的日志进行收集,针对自动售票系统日志的特点,编写Map/Reduce算法,对收集到的日志进行分析处理,使其结果满足需求,同时,验证基于Hadoop的自动售票日志分析系统的有效性及可行性。
Hadoop;自动售票机;分布计算;日志分析
近年来,随着铁路信息化的发展,自动售票系统在国内的高速铁路已普遍使用。目前,全路自动售票机(TVM,Ticket Vending Machine)装机量达3 000台以上,日均售票量占总售票量的10%左右,在部分车站甚至高达40%。自动售票机的大量应用,取得了很好的效果,不仅方便了旅客,而且很大程度上缓解了车站售票的压力。然而,与此同时,就会产生相当大规模的日志数据。目前,在日常维护中都是通过人工查看这些日志文件来发现问题,这样不仅对维护人员要求较高,而且效率低下,因此,如何存储并高效处理这些日志数据就变得尤为重要。
Hadoop[1~2]是一个流行的大规模数据处理框架,它能够运行于多种平台上,并且具有良好的健壮性和可扩展性,在大规模数据处理方面具有一定的优势,成为进行日志分析的有效解决方案。……
