数据传输 | 如何搭建 DTLE 的监控系统

爱可生云数据库
English

作者:刘安

爱可生测试团队成员,主要负责 DTLE 开源项目相关测试任务,擅长 Python 自动化测试开发,最近醉心于 Linux 性能分析优化的相关知识。

本文来源:原创投稿

*爱可生开源社区出品,原创内容未经授权不得随意使用,转载请联系小编并注明来源。


背景:

虽然在 DTLE 的文档里提供各种监控项的介绍,但是对于不熟悉 prometheus 和 grafana 配置的同学来说上手还是有些难度的。今天我就来 DTLE 3.21.07.0 来搭建一个 DTLE 的监控系统。

一、搭建 DTLE 运行环境

  • 配置两个节点的 DTLE 集群来演示,其拓扑如下:

在修改 DTLE 配置文件的时候需要注意以下两点:

  1. 开启 DTLE 的监控,确保 publish_metrics 的值为 ture
  2. 开启 nomad 的监控,确保正确配置telemetry

这里以dtle-src-1的配置为例,具体配置参考节点配置:

# DTLE 3.21.07.0中nomad升级为1.1.2,需要添加如下配置使nomad提供监控数据
# 之前版本的DTLE无需添加此配置
telemetry {
  prometheus_metrics         = true
  collection_interval        = "15s"
}

plugin "dtle" {
  config {
    data_dir = "/opt/dtle/var/lib/nomad"
    nats_bind = "10.186.63.20:8193"
    nats_advertise = "10.186.63.20:8193"
    # Repeat the consul address above.
    consul = "10.186.63.76:8500"

    # By default, API compatibility layer is disabled.
    api_addr = "10.186.63.20:8190"   # for compatibility API
    nomad_addr = "10.186.63.20:4646" # compatibility API need to access a nomad server

    publish_metrics = true
    stats_collection_interval = 15
  }
}
  • 添加两个 job 模拟两个 MySQL 实例之间传输数据

二、部署prometheus

  • 准备 prometheus 配置文件同时接收 nomad 和 DTLE 的 metrics
  • DTLE 监控 labels:instance 的值建议设置为 DTLE 服务器的 hostname
shell> cat /path/to/prometheus.yml
global:
  scrape_interval:     15s # Set the scrape interval to every 15 seconds. Default is every 1 minute.
  evaluation_interval: 15s # Evaluate rules every 15 seconds. The default is every 1 minute.

scrape_configs:
  - job_name: 'nomad'
    scrape_interval: 15s
    metrics_path: '/v1/metrics'
    params:
      format: ['prometheus']
    static_configs:
      - targets: ['10.186.63.20:4646']
        labels:
          instance: nomad-src-1
      - targets: ['10.186.63.76:4646']
        labels:
          instance: nomad-dest-1

  - job_name: 'dtle'
    scrape_interval: 15s
    metrics_path: '/metrics'
    static_configs:
      - targets: ['10.186.63.20:8190']
        labels:
          instance: dtle-src-1
      - targets: ['10.186.63.76:8190']
        labels:
          instance: dtle-dest-1
  • 利用 docker 部署 prometheus 服务
  shell> docker run -itd -p 9090:9090 --name=prometheus --hostname=prometheus --restart=always -v /path/to/prometheus.yml:/etc/prometheus/prometheus.yml prom/prometheus
  • 在浏览器上访问 prometheus 的页面 http://${prometheus_server_ip}:9090/targets 验证配置生效

三、部署 grafana

  • 利用 docker 部署 grafana 服务
  shell> docker run -d --name=grafana -p 3000:3000 grafana/grafana
  • 在浏览器上访问 grafana 的页面 http://${grafana_server_ip}:3000 ,使用默认用户 admin/admin登录
  • 配置添加数据源

  • 选择添加 promethues

  • 只需将 promethues 的访问地址添加到URL中,点击“sava & test”按钮

  • 添加 panel

  • 以添加一个CPU使用率监控为例配置一个 panel

四、常用的监控项

nomad 所有监控项:https://www.nomadproject.io/d...

DTLE 所有监控项:https://actiontech.github.io/...

五、最后创建多个panel同时展示

阅读 364

中国领先的企业数据处理技术整体解决方案提供商,开源数据库领域优秀企业。为大型行业用户的特定场景提...

242 声望
144 粉丝
0 条评论
你知道吗?

中国领先的企业数据处理技术整体解决方案提供商,开源数据库领域优秀企业。为大型行业用户的特定场景提...

242 声望
144 粉丝
文章目录
宣传栏