由于trace.log文件中的日志内容比较多,为了便于查找关于我们项目部分的日志,需要对日志文件进行分析。
Logstash是一个开源的,可以对分布式环境中的日志进行收集分析的工具。 Kibana也是一个开源和免费的工具,他可以帮助汇总,分析和搜索重要日志数据并提供友好的web界面,它可以为Logstash和ElasticSearch提供日志分析的web界面.
它的工作流程是: logstash agent监控并过滤日志,将过滤后的日志内容发给redis(这里的redis只处理队列不做存储),logstash index将日志收集起来交给全文搜索服务ElasticSearch,然后可以用ElasticSearch进行自定义搜索,再通过Kibana来结合自定义搜索进行页面展示。
从图中可以看到,左边的流程可以看做是Filter流程,然后右边的是ElasticSearch,自定义搜索。
下面是一个页面展示的例子,使用Contribution关键字查询过去6个小时的日志记录,结果返回了28条记录。
另外,ElasticSearch提供了Rest API,通过FireBug可以看到web页面上调用的各种Rest API。
Logstash的配置可以通过手动也可以通过chef快速配置,具体可以参照官网
http://www.logstash.net/
下面是Kibana的一个demo:
http://demo.kibana.org/index.html#/dashboard
相关推荐
基于Logstash的日志数据采集和ELK可视化海量日志分析平台实战(全套视频+课件+代码+讲义+工具),具体内容包括: 01 Logstash的架构及运行流程 02 Logstash的数据采集案例(一) 03 Logstash的数据采集案例(二) 04...
NULL 博文链接:https://solomon2012.iteye.com/blog/2361117
flume+Logstash+Kafka+Spark Streaming进行实时日志处理分析【大数据】
1,什么是Logstash 2,日志平台架构及Logstash技术要点 3,Kibana界面查询过滤操作 4,Kibana一些实例介绍 5,导航界面介绍及如何接入
对于日志来说,最常见的需求就是收集、存储、查询、展示,开源社区正好有相对应的开源项目:logstash(收集)、elasticsearch(存储+搜索)、kibana(展示),我们将这三个组合起来的技术称之为ELK,所以说ELK指的是...
Logstash 主要是用来日志的搜集、分析、过滤日志的工具,支持大量的数据获取方式。一般工作方式为c/s架构,client端安装在需要收集日志的主机上,server端负责将收到的各节点日志进行过滤、修改等操作在一并发往...
logstash采集log4j日志发送到es配置文件,可以把日志根据日志级别区分开,一个级别一条日志是es中的一条数据
kibana也是一个开源和免费的工具,他可以帮助您汇总、分析和搜索重要数据日志并提供友好的web界面。他可以为 Logstash和ElasticSearch提供的日志分析的Web界面 说到这里,我们看看kibana和logstash
用Kibana和logstash快速搭建实时日志查询、收集与分析系统
logstash grok 添加了自定义的正则表达式,可以提取出日志的等级,日志的时间,日志的线程号
采集工具安装包,apache-flume-1.8.0-bin.tar和logstash-2.3.1.tar和sqoop-1.4.6.bin__hadoop-0.23.tar
Logstash是一款轻量级的日志搜集处理框架,可以方便的把分散的、多样化的日志搜集起来,并进行自定义的处理,然后传输到指定的位置,比如某个服务器或者文件。
scala通过logstash发送日志到kafka的Demo 请注意设置好kafka的2个host.name参数,否则同样无法连接 请注意修改logback.xml文件的服务器地址与端口
logback日志写logstash配置appender参考
Logstash日志管理系统 v7.17.18.zip
Logstash日志管理系统 v8.12.2.zip
Logstash日志管理系统 v6.8.20.zip
Kibana 也是一个开源和免费的工具,Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助汇总、分析和搜索重要数据日志。 Filebeat是一个轻量型日志采集器,可以方便的同k