简介:封神-核心功能 | 钉钉告警+数据网关
1. 开发背景
1.1 用户痛点
①租户侧运维能力弱
问题:租户侧,客户没有有效途径,及时地获取实例级的状态、性能、容量的数据。
现状:每日固定时间,驻场需要人肉收集数据,钉钉定时推送给客户。
②问题排查效率低
问题:应用业务有问题,云平台产品正常,客户并不认可,需要帮助客户解决问题。
现状:发现应用实例出现性能、容量被打满的问题,这个排查过程往往冗长, 效率很低。
③监控能力缺失
问题:云平台监控不全,容量管理、性能管理等报表能力缺失。
现状:驻场需要通过大量人肉巡检,或者编写脚本。
④监控 方式时效性低
问题:业务侧总会优先于应用与云平台感知到故障,运维非常被动 。
现状:客户发现问题,通知应用,应用检查后,再溯源到云平台,排查链路串行并且低效。
1.2 解决方案
①保障业务稳定
通过云产品的服务能力的变化情况及业务仿真模型的建立,提前预知客户业务健康度,低于基线后便会触发告警。
②SLA化展示
触发阈值自动报警,量化产品健康状况。
2. 开发设计
2.1 系统架构
图1:系统架构图
封神系统架构如图1所示,分为CLIENT与SERVER端两大模块。
- CLINET端:部署在经典网铜雀容器内,通过定时任务控制去采集云内各产品数据。
SERVER端:部署在VPC内ECS上,系统框架为FLASK,分为数据处理与数据存储两大部分。
①数据处理是指通过提供API接受CLIENT的数据并进行入库操作以及数据的前端展示。
②数据存储是指借助阿里云RDS数据库,对数据进行持久化操作作。
2.2 业务架构
图2:业务架构图
封神业务架构如如2所示,分为五大板块。
- 姜子牙:租户侧告警,主要包括ECS、RDS等云产品实例性能以及业务相关告警。
- 申公豹:运维侧告警,主要包括云产品健康状态、水位容量等相关告警。
- 雷震子:硬件告警,主要包括坏盘,物理机带外等告警。
- 比 干:安全告警,主要来自云盾相关安全类告警。
- 杨 戬:故障告警,主要对各产品数据进行SLA算法处理,设置P0,P1等级故障阈值。
3. 钉钉告警
3.1 告警分类
机器人创建方式可参考文后资料[1]了解详情。
姜子牙
申公豹
雷震子
比 干
杨 戬
3.2 告警展示
图3:姜子牙
图4:申公豹
图5:雷震子
图6:比干
图7:杨戬-1
图7:杨戬-2
图7:杨戬-3
图7:杨戬-4
4. 数据网关
数据网关分为两大模块:获取数据、接收数据。
获取数据分为告警数据、全量数据、性能数据。
①告警数据:分别对应钉钉机器人推送的告警信息,封装成相应的数据格式,以API接口形式对外提供数据。
②全量数据:数据库源表数据,不做任何加工处理,以API接口形式对外提供数据,可操作性较高。
③性能数据:产品性能数据会定期存储到时序数据库,存储时间长,可查询历史性能数据。- 接收数据:提供对外API接收客户自定义监控数据,封装成MARKDOWN格式,实时进行钉钉告警。
4.1 获取数据
4.1.1 告警数据
4.1.1.1 请求接口
请求方式:POST请求
URL地址: http://{ip}:{port}/api/v1/sea...
ip:封神ecs\_ip
port:9170
PARAM:参数列表可查看文后资料[2]了解详情。
4.1.1.2 DEMO
import sys
import requests
url = "http://{ip}:{port}/api/v1/search/monitor/"
data = {"product":"MQ", "title":"积压告警", "stime":"2020-01-04 00:00:00", "etime":"2020-01-04 00:01:00"}
res = requests.post(url=url, json=data)
print res.content
curl -H "Content-Type:application/json"
-X POST -d '{"type":"ALL"}' http://{ip}:{port}/api/v1/search/monitor/
4.1.1.3 数据返回
①当前存在告警
{"code":0, "data":[{"info":"0.0.0.0,ecs,95% \n 0.0.0.1,ecs,95% ", "product":"ECS", "title":"性能告警", "level":"告警", "robot":"姜子牙", "monitor\_time":"2020-01-14 00:00:00", "columns":"IP,产品,值"}]}
②当前未存在告警数据(告警恢复正常)
{"code":0, "data":[{"info":"", "product":"ECS", "title":"性能告警", "level":"告警", "robot":"姜子牙", "monitor\_time":"2020-01-14 00:00:00", "columns":"IP,产品,值"}]}
③未查询到数据:
{"code":0, "data":[]}
④查询异常:
{"code":500, "data":"异常信息"}
4.1.2 全量数据
4.1.2.1 请求接口
请求方式:POST请求
URL地址: http://{ip}:{port}/api/v1/sea...
ip:封神ecs\_ip
port:9170
PARAM:参数列表可查看文后资料[2]了解详情。
4.1.2.2 DEMO
import sys
import requests
url = "http://{ip}:{port}/api/v1/search/data/"
data = {"product":"MQ", "title":"TIME", "stime":"2020-01-04 00:00:00", "etime":"2020-01-04 00:01:00"}
res = requests.post(url=url, json=data)
print res.content
4.1.2.3 数据返回
4.1.3 性能数据
4.1.3.1 请求接口
请求方式:POST请求
URL地址: http://{ip}:{port}/api/v1/inf...\_query/
ip:封神ecs\_ip
port:9170
PARAM:参数为INFLUXDB SQL
4.1.3.2 DEMO
import sys
import requests
url = "http://{ip}:{port}/api/v1/influxdb_query/"
data = {"sql":"infudb sql"}
res = requests.post(url, data)
print res.content
4.1.3.3 数据返回
4.2 接收数据
4.2.1 请求接口
请求方式:POST请求
URL地址:http://{ip}:{port}/api/v1/ins...
ip:封神ecs\_ip
port:9170
PARAM:
4.2.2 DEMO
import sys
import requests
url = "http://172.0.0.1:9170/api/v1/insert/third/"
data = {"title":"ecs性能监控", "level":"预警", "source":"云监控", "product":"ecs", "msg":"ip:10.0.0.1 cpu:98% ip:127.0.0.1 mem:99%", "robot":"姜子牙", "submitor":"高德臣", "monitor_time":"2021-03-10 16:00:00", "details":"兄弟 关注下"}
res = requests.post(url=url, json=data)
print res.text
4.2.3 告警展示
图8:告警展示图
参考文章
[1] 封神榜部署前置检查:https://yuque.antfin-inc.com/docs/share/d3a743db-af85-47d2-89c5-4f22eb1693c5?
[2] 获取封神数据-三方API:https://yuque.antfin-inc.com/docs/share/2037fbb2-35fa-42ad-8476-ec7502e9ed33?#
我们是阿里云智能全球技术服务-SRE团队,我们致力成为一个以技术为基础、面向服务、保障业务系统高可用的工程师团队;提供专业、体系化的SRE服务,帮助广大客户更好地使用云、基于云构建更加稳定可靠的业务系统,提升业务稳定性。我们期望能够分享更多帮助企业客户上云、用好云,让客户云上业务运行更加稳定可靠的技术,您可用钉钉扫描下方二维码,加入阿里云SRE技术学院钉钉圈子,和更多云上人交流关于云平台的那些事。
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。