admin管理员组文章数量:1794759
ElasticSearch预警服务
介绍
Watcher服务详解-定时器的设定 关于Schedule配置选择,Watcher提供了丰富的时间语法支持,采用UTC时间,来我们一起看下如何设置: 支持的设置方式:
hourly:按小时周期设置 daily:按天周期设置 weekly:按周周期设置 monthly:按月周期设置 yearly:按年周期设置 cron:Cron表达式设置 interval :固定周期设置 详细案例:** 1.按小时 **
每小时过30分钟执行 "trigger" : {"schedule" : {"hourly" : { "minute" : 30 }}} 指定时间执行,每小时第0,15,30,45分钟执行 "trigger" : {"schedule" : {"hourly" : { "minute" : [ 0, 15, 30, 45 ] }}}**2.按天 **
每天下午5点执行 "trigger" : {"schedule" : {"daily" : { "at" : "17:00" }}} "trigger" : {"schedule" : {"daily" : { "at" { "hour" : 17, "minute" : 0 } } 每天00:00, 12:00, 17:00 执行 "trigger" : {"schedule" : {"daily" : { "at" : [ "midnight", "noon", "17:00" ] }}} 每天00:00, 00:30, 12:00, 12:30, 17:00,17:30执行 "trigger" : {"schedule" : {"daily" : {"at" {"hour" : [ 0, 12, 17 ]"minute" : [0, 30]}} **3.按星期** 每周五下午5点执行 "trigger" : {"schedule" : {"weekly" : { "on" : "friday", "at" : "17:00" } }} 每周二12:00,周五17:00执行 "trigger" : {"schedule" : {"weekly" : [{ "on" : "tuesday", "at" : "noon" },{ "on" : "friday", "at" : "17:00" }]}} 每周二,周五的12:00,17:00执行 "trigger" : {"schedule" : {"weekly" : {"on" : [ "tuesday", "friday" ]"at" : [ "noon", "17:00" ]}}** 4.按月 **
每月10号12:00执行 "trigger" : {"schedule" : {"monthly" : { "on" : 10, "at" : "noon" }}} 每月10号12:00,20号17:00执行 "trigger" : {"schedule" : {"monthly" : [{ "on" : 10, "at" : "noon" },{ "on" : 20, "at" : "17:00" }]} 每月10号,20号的0:00,12:00执行 "trigger" : {"schedule" : {"monthly" : {"on" : [ 10, 20 ]"at" : [ "midnight", "noon" ]}}**5.按年 **
"trigger" : {"schedule" : {"yearly" : { "in" : "january", "on" : 10, "at" : "noon" } }} "trigger" : {"schedule" : {"yearly" : [{ "in" : "january", "on" : 10, "at" : "noon" },{ "in" : "july", "on" : 20, "at" : "17:00" }]} "trigger" : {"schedule" : {"yearly" : {"in: : [ "jan", "dec" ],"on" : [ 10, 20 ],"at" : [ "midnight", "noon" ]}}** 6.Cron表达式 **
"trigger" : {"schedule" : { "cron" : "0 0 12 * * ?" } }** 7.固定周期设置 **
5秒 "trigger" : { "schedule" : {"interval" : "5s" } } 5分钟 "trigger" : { "schedule" : {"interval" : "5m" } } 5小时 "trigger" : { "schedule" : {"interval" : "5h" } } 5天 "trigger" : { "schedule" : {"interval" : "5d" } } 5周 "trigger" : { "schedule" : {"interval" : "5w" } } ElasticSearch(ES)预警服务 Watcher安装以及探究 介绍最近公司需求要搭建一个监控系统,用来监控程序运行状态,请求曲线,错误日志发生次数,等等分析,保障系统稳定性。因此最近研究了基于Lucene 号称企业级搜索服务的ElasticSearch ,用了一段时间发现速度还真快,对百万级甚至千万级的数据检索毫无压力,比之前用的MongoDB速度快了不少。
ElasticSearch服务安装过程这里就不在说了,有了监控之后应该还需给开发人员发送邮件,告知某项错误已经达到某个阀值,应该关注去分析解决发生错误的原因,进一步发现程序上的bug,然后fix掉,下面隆重介绍下es(这里将ElasticSearch简称为es)的插件,Watcher,功能嘛很显然就是预警服务。
一、安装1.依赖于License 插件,先安装License插件,在ES_HOME目录下面安装License
bin/plugin install license2.安裝watcher插件
bin/plugin install watcher注:中间过程询问是否继续时候输入y按回车继 3.验证是否安装成功
curl -XGET 'localhost:9200/_watcher/stats?pretty' 返回结果如下则表示安装成功 { "watcher_state": "started", "watch_count": 0, "execution_thread_pool": { "queue_size": 0, "max_size": 0 } }二、Watcher插件配置(创建预警任务)
watcher目前是沒有界面配置的,需要通过Resfulapi调用创建、管理、更新预警任务
创建一个Watcher任务的流程是怎样的?
我们先来看下创建一个预警demo的api
curl -XPUT 'localhost:9200/_watcher/watch/log_error_watch' -d ' { "trigger": { "schedule": { "interval": "1m" } }, "input": { "search": { "request": { "indices": [ "monitor_ticket_bargainfindermaxrq_201610" ], "body": { "query": { "bool": { "must": [ { "match": { "collectionName": "BargainFinderMaxRQ" } }, { "range": { "createTime": { "gt" : "now-1m" } } } ] } } } } } }, "condition": { "compare": { "ctx.payload.hits.total": { "gt": 20 } } }, "actions": { "send_email": { "email": { "to": "xxxxxx@xxx", "subject": "TICKET_BFM 過去一分鐘內錯誤發生次數超過20,請關注", "body": "TICKET_BFM 過去一分鐘內錯誤發生次數超過20,請關注" } } } }'当然actions里面还支持模板,比如 :
"actions": { "send_email": { "email": { "to": "xxx@xxx", "subject": "TICKET_BFM 過去一分鐘內錯誤發生{{ctx.payload.hits.total}}次數超過20,請關注", "body": "TICKET_BFM:{{ctx.watch_id}} 過去一分鐘內錯誤發生{{ctx.payload.hits.total}}次數超過20,請關注 Happened at {{ctx.execution_time}}" } } }从api的content我們可以看出,內容主要主体分成trigger(触发设置),input(来源设置),condition(条件),actions(触发动作设置)
这里我们设置触发间隔时间为1m,来源是monitor_ticket_bargainfindermaxrq_201610索引块,查询条件是collectionName字段值是BargainFinderMaxRQ,以及时间范围是过去1分钟到现在,然后触发条件是当数量大于20,动作设置的是发邮件
Action类型其实有4种,EMail(邮件),Webhook(第三方对接),Index(索引),Logging(日志记录),相关配置可以参考下官方文档
如果配置了发送邮件,那么需要在es的yml文件配置下邮件发送服务器
我这里设置的是公司的服务器
watcher.actions.email.service.account: work: profile: standard email_defaults: from: '<yourname>@xx' smtp: auth: true starttls.enable: true host: smtp.xx port: 25 user: yourname@xx password: password注:设置之后重启下es服务器
三、删除预警任务有时候我们不在使用某项预警服务的时候,我们可以删除他
#curl -XDELETE 'localhost:9200/_watcher/watch/log_error_watch'参考链接 : Elasticsearch索引mapping的写入、查看与修改 : blog.csdn/napoay/article/details/52012249?depth_1-utm_source=distribute.pc_relevant.none-task&utm_source=distribute.pc_relevant.none-task
ElasticSearch(ES)预警服务 Watcher安装以及探究 : wwwblogs/dafanshu/p/5980553.html
elasticsearch使用river同步mysql数据 : blog.csdn/alen1985/article/details/41356361?depth_1-utm_source=distribute.pc_relevant.none-task&utm_source=distribute.pc_relevant.none-task
ElasticSearch预警服务-Watcher详解-监控时间线数据 :blog.csdn/corejava999/article/details/84720830?depth_1-utm_source=distribute.pc_relevant.none-task&utm_source=distribute.pc_relevant.none-task ElasticSearch预警服务-Watcher详解-Schedule配置 : blog.csdn/corejava999/article/details/84720010
本文标签: ElasticSearch
版权声明:本文标题:ElasticSearch预警服务 内容由林淑君副主任自发贡献,该文观点仅代表作者本人, 转载请联系作者并注明出处:http://www.xiehuijuan.com/baike/1686481320a72365.html, 本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,一经查实,本站将立刻删除。
发表评论