工欲善其事必先利其器,ELK Stack的学习和实战更是如此,特将工作中用到的“高效”工具分享给大家。
希望能借助“工具”提高开发、运维效率!
工具分类概览
基础类工具
1、Head插件
1)功能概述:
ES集群状态查看、索引数据查看、ES DSL实现(增、删、改、查操作)
比较实用的地方:json串的格式化
2)地址:http://mobz.github.io/elasticsearch-head/
2、Kibana工具
除了支持各种数据的可视化之外,最重要的是:支持Dev Tool进行RESTFUL API增删改查操作。
——比Postman工具和curl都方便很多。
地址:https://www.oschina.net/p/kibana
3、ElasticHD工具
强势功能——支持SQL转DSL,不要完全依赖,可以借鉴用。
地址:https://www.oschina.net/p/elastichd
集群监控工具
4、cerebro工具
地址:https://www.oschina.net/p/cerebro-elasticsearch
5、Elaticsearch-HQ工具
管理elasticsearch集群以及通过web界面来进行查询操作
地址:https://github.com/royrusso/elasticsearch-HQ
集群迁移工具
6、Elasticsearch-migration工具
支持多个版本间的数据迁移,使用scroll+bulk
地址:https://github.com/medcl/elasticsearch-migration
7、Elasticsearch-Exporter
将ES中的数据向其他导出的简单脚本实现。
地址:https://github.com/mallocator/Elasticsearch-Exporter
8、Elasticsearch-dump
移动和保存索引的工具。
地址:https://www.oschina.net/p/elasticsearch-dump
集群数据处理工具
9、elasticsearch-curator
elasticsearch官方工具,能实现诸如数据只保留前七天的数据的功能。
地址:https://www.oschina.net/p/elasticsearch-curator
另外 ES6.3(还未上线) 有一个 Index LifeCycle Management 可以很方便的管理索引的保存期限。
安全类工具
10、x-pack工具
地址:https://www.oschina.net/p/x-pack
11、search-guard 第三方工具
Search Guard 是 Elasticsearch 的安全插件。它为后端系统(如LDAP或Kerberos)提供身份验证和授权,并向Elasticsearch添加审核日志记录和文档/字段级安全性。
Search Guard所有基本安全功能(非全部)都是免费的,并且内置在Search Guard中。 Search Guard支持OpenSSL并与Kibana和logstash配合使用。
地址:https://www.oschina.net/p/searchguard
可视化类工具
12、grafana工具
地址:https://grafana.com/grafana
grafana工具与kibana可视化的区别:
如果你的业务线数据较少且单一,可以用kibana做出很棒很直观的数据分析。
而如果你的数据源很多并且业务线也多,建议使用grafana,可以减少你的工作量
对比:https://www.zhihu.com/question/54388690
自动化运维工具
elasticsearch免费的自动化运维工具
13、Ansible
https://github.com/elastic/ansible-elasticsearch
14、Puppet
https://github.com/elastic/puppet-elasticsearch
15、Cookbook
https://github.com/elastic/cookbook-elasticsearch
以上三个工具来自medcl大神社区问题的回复,我没有实践过三个工具。
类SQl查询工具
16、Elasticsearch-sql 工具
sql 一款国人NLP-china团队写的通过类似sql语法进行查询的工具
地址:https://www.oschina.net/p/elasticsearch-sql
ES6.3+以后的新版本会集成sql。
增强类工具
17、Conveyor 工具
kibna插件——图形化数据导入工具
地址:https://github.com/samtecspg/conveyor
18、kibana_markdown_doc_view 工具
Kibana文档查看强化插件,以markdown格式展示文档
地址:https://github.com/sw-jung/kibana_markdown_doc_view
19、 indices_view工具
indices_view 是新蛋网开源的一个 kibana APP 插件项目,可以安装在 kibana 中,快速、高效、便捷的查看elasticsearch 中 indices 相关信息
地址:https://gitee.com/newegg/indices_view
20、dremio 工具
支持sql转DSL,
支持elasticsearch、mysql、oracle、mongo、csv等多种格式可视化处理;
支持ES多表的Join操作
地址:https://www.dremio.com/
报警类
21、elastalert
ElastAlert 是 Yelp 公司开源的一套用 Python2.6 写的报警框架。属于后来 Elastic.co 公司出品的 Watcher 同类产品。
官网地址: http://elastalert.readthedocs.org/
使用举例:当我们把ELK搭建好、病顺利的收集到日志,但是日志里发生了什么事,我们并不能第一时间知道日志里到底发生了什么,运维需要第一时间知道日志发生了什么事,所以就有了ElastAlert的邮件报警。
22、sentinl
SENTINL 6扩展了Siren Investigate和Kibana的警报和报告功能,使用标准查询,可编程验证器和各种可配置操作来监控,通知和报告数据系列更改 - 将其视为一个独立的“Watcher” “报告”功能(支持PNG / PDF快照)。
SENTINL还旨在简化在Siren Investigate / Kibana 6.x中通过其本地应用程序界面创建和管理警报和报告的过程,或通过在Kibana 6.x +中使用本地监视工具来创建和管理警报和报告的过程。
官网地址:https://github.com/sirensolutions/sentinl
小结
突然想起鲁迅先生笔下的孔乙己“茴香豆的茴字有几种写法?”
管几种写法,适合自己的工具才是较好的!
https://www.elastic.co/guide/en/elasticsearch/plugins/6.2/index.html
相关推荐
史上最全的安卓常用工具类依赖包
Elasticsearch工具类,支持通过标签注释实体类并通过工具类实现对es的映射(把po的结构导入es),和对es的增删查改,包括分页,scroll读取,关联查询等。
比较好用的ElasticSearch客户端工具,可以监控ES集群信息。
elasticsearch和elasticsearch-head-master包安装及其使用
解压文件 elasticsearch-head.zip 安装插件: google ---》更多工具----》扩展程序 打开Google的扩展程序,点击加载已解压的扩展程序,选择解压elasticsearch-head文件夹即可添加插件成功
elasticsearch java工具包 提供各种elasticsearch 操作,可直接应用于项目
linux命令行elasticsearch查询工具es2unix
(2)包含市面上几乎没有的所有Elasticsearch高级知识点:包含地理位置搜索与聚合分析,term vector,suggester search,搜索模板定制,query执行剖析,数十种最全面的聚合分析,span query,shard分配定制,es插件...
elasticsearch-2.3.2.tar.gz和elasticsearch-jdbc-2.3.2.0-dist.zip,可以进行mysql数据库数据同步到es中,亲测有效。详见博客http://www.cnblogs.com/zhongshengzhen/
elasticSearch(ES) 最新版ik分词插件7.10 elasticsearch-analysis-ik-7.10.0
elastic数据导出工具,可以直接将es中的数据导入存储到Mysql,也可以指定存储到本地文件夹中,可以选择以json格式或者sql语句的形式
在数据抽取 ELT 领域,ES 全家桶 ELK(Elasticsearch+Logstash+Kibana)赫赫有名。 Elasticsearch 基本概念: * 倒排索引:Elasticsearch 为什么快,核心设计理念就是采用了倒排索引机制。倒排索引的方式是,根据 ...
(狂神)ElasticSearch快速入门笔记,ElasticSearch基本操作以及爬虫(Java-ES仿京东实战),包含了小狂神讲的东西,特别适合新手学习,笔记保存下来可以多看看。好记性不如烂笔头哦~,ElasticSearch,简称es,es是一个...
EsClientRHL是一个可基于springboot的elasticsearch客户端调用封装工具,通过elasticsearch官网推荐的RestHighLevelClient实现,内置了es索引结构工具、es索引数据增删改工具、es查询工具、es数据分析工具或者es。...
es-head是一个针对Elasticsearch的可视化操作插件。它提供了一个便捷的操作工具,可以连接Elasticsearch搜索引擎,并提供可视化的操作页面,对Elasticsearch进行各种设置和数据检索功能的管理。 es-head 插件可以在...
elasticsearch elasticsearch-6.2.2 elasticsearch-6.2.2.zip 下载
elastiecsearch 的漏洞检测工具,对于elastiecsearch 在配置上或者版本上存在的问题有很好的检测和利用价值。
Elasticsearch的JAVA操作工具类,包括增删改查的封装,Elasticsearch的JAVA操作工具类,包括增删改查的封装
Elasticsearch 查询语句
使用springboot集成了elasticsearch,封装了常用api,并使用自定义注解创建mapping,简化开发,开箱即用。注:使用的是elasticsearch 5.x版本