APP下载

基于大数据的ELK日志分析系统研究及应用

2019-10-21李志民孙林檀吴建军张新征

科学与信息化 2019年28期
关键词:搜索引擎可视化优化

李志民 孙林檀 吴建军 张新征

摘 要 基于ELK的日志分析系统研究分析是为了有效的解决当下物联网应用日志处理效率低的问题。因此,本文首先阐述了基于ELK的日志分析平台,然后总结了对系统日记群集优化大方法,从而提高日志分析系统的运行效率和排查异常的速度。

关键词 ELK;日志分析系统;Elasticsearch

日志设计信息系统的重要组成部分,是系统运行、性能分析以及故障诊断的重要来源。随着科学技术的不断发展和互联网技术的广泛应用,不断增加了系统的日志量,随着日志的应用范围的扩大和复杂程度的增加,传统日志的分析方式和效率已经不能适信息系统对日志的需求。为了满足信息时代的发展需要,下面就基于ELK的日志分析系统进行相关的研究分析工作。

1基于ELK的日志分析平台

随着实时分析技术的不断发展和成熟应用,在日志领域出现了新的分析系统-ELK,ELK实时日志分析平台主要运用了Kiba-na(数据可视分析平台)、Logstash(日志采集工具)、Elasticsearch(分布式搜索引擎)[1]。这些技术的应用可以让系统的运行维护人员在庞大的日志信息量中及时找到所需要管理和维护的信息,从而实现了对日志系统的分析。

1.1 日志分析系统整体架构

完整的日志系统是有日志的储存系统、采集系统、解析系统化以及可视化分析系统共同组成的。日志采集工具是日志的主要采集器,在多台机器当中都有分布,它可以对非结构的日志进行解析,然后把解析的结果传输到分布式搜索引擎中;分布式搜索引擎可以完成全文检索的功能,属于储存日志的中央系统;而Kibana组件的存在不仅可以对分布式搜索引擎中的日志进行可视化操作[2],还可以进行统计分析和高级搜索。……

登录APP查看全文

猜你喜欢

搜索引擎可视化优化
基于CiteSpace的足三里穴研究可视化分析
超限高层建筑结构设计与优化思考
基于Power BI的油田注水运行动态分析与可视化展示
民用建筑防烟排烟设计优化探讨
关于优化消防安全告知承诺的一些思考
一道优化题的几何解法
基于CGAL和OpenGL的海底地形三维可视化
“融评”:党媒评论的可视化创新
网络搜索引擎亟待规范
广告主与搜索引擎的双向博弈分析