基于大数据的ELK日志分析系统研究及应用
2019-10-21李志民孙林檀吴建军张新征
科学与信息化 2019年28期
李志民 孙林檀 吴建军 张新征

摘 要 基于ELK的日志分析系统研究分析是为了有效的解决当下物联网应用日志处理效率低的问题。因此,本文首先阐述了基于ELK的日志分析平台,然后总结了对系统日记群集优化大方法,从而提高日志分析系统的运行效率和排查异常的速度。
关键词 ELK;日志分析系统;Elasticsearch
日志设计信息系统的重要组成部分,是系统运行、性能分析以及故障诊断的重要来源。随着科学技术的不断发展和互联网技术的广泛应用,不断增加了系统的日志量,随着日志的应用范围的扩大和复杂程度的增加,传统日志的分析方式和效率已经不能适信息系统对日志的需求。为了满足信息时代的发展需要,下面就基于ELK的日志分析系统进行相关的研究分析工作。
1基于ELK的日志分析平台
随着实时分析技术的不断发展和成熟应用,在日志领域出现了新的分析系统-ELK,ELK实时日志分析平台主要运用了Kiba-na(数据可视分析平台)、Logstash(日志采集工具)、Elasticsearch(分布式搜索引擎)[1]。这些技术的应用可以让系统的运行维护人员在庞大的日志信息量中及时找到所需要管理和维护的信息,从而实现了对日志系统的分析。
1.1 日志分析系统整体架构
完整的日志系统是有日志的储存系统、采集系统、解析系统化以及可视化分析系统共同组成的。日志采集工具是日志的主要采集器,在多台机器当中都有分布,它可以对非结构的日志进行解析,然后把解析的结果传输到分布式搜索引擎中;分布式搜索引擎可以完成全文检索的功能,属于储存日志的中央系统;而Kibana组件的存在不仅可以对分布式搜索引擎中的日志进行可视化操作[2],还可以进行统计分析和高级搜索。……
登录APP查看全文
