基于 Prometheus 实现 laf 资源监控

laf背景

没有资源监控前，应用的资源指标(cpu / mem / db / oss)无法得知，用户很难根据自己的业务规模评估合适的规格配置；不能清楚地发现当前应用状态：是否有内存泄露、是否需要开启弹性伸缩、当前的应用实例数等等。有了资源监控，这些问题统统解决。

laf实现方案

• 前端轮询后端请求监控数据，后端向 Prometheus 发起 HTTP 查询请求，Prometheus 会根据请求从自带的数据库中查询数据并返回，后端完成整合工作后返回给前端。
• Prometheus 会根据采集规则轮询需要采集的监控目标，将数据指标 (metrics) 存到数据库里。

laf组件介绍

• Prometheus 是一个开源的监控和警报工具，通过 Pull 模式来获取目标服务的监控指标数据（如cpu和内存等），内置了一个时间序列数据库来存储收集到的指标数据，内置 PromQL 来查询数据（类似于使用SQL语句查询数据库），自带一个 Web UI 来快速验证查询结果。
• Prometheus 的 Exporter 是一种适配器，用于采集非原生支持 Prometheus 的第三方系统或服务的指标数据，并将其转换为 Prometheus 可以识别的格式。Exporter运行为一个单独的服务，周期性地从目标系统中拉取原始指标，然后提供一个HTTP端点，使得 Prometheus 可以从中抓取已转换的指标数据。不同的系统和服务需要不同的Exporter，例如，MongoDB Exporter 用于 抓取 MongoDB 数据库的指标；而 Minio 原生支持Prometheus，不需要单独的 Exporter。

laf环境搭建和部署

❝
这里假设我们已经拥有了一套 k8s 环境（使用 sealos 快速部署自己的 k8s），并且已经安装了必要组件，如 Helm、MongoDB 等

我们想要采集的指标包括 CPU、内存、MongoDB 和 MinIO 的用量，这里只演示前三者

• 首先部署 Prometheus

  使用 Helm 部署 kube-stack-prometheus

❝
kube-prometheus-stack是一个 Kubernetes 的监控和告警套件，整合了 Prometheus、Grafana 及其他相关组件，通过 Prometheus Operator 简化部署和管理，提供从节点到Kubernetes 对象的全面监控，并支持通过 Grafana 进行数据可视化。

#创建 values.yaml 文件
cat <<EOF > values.yaml
fullnameOverride: prometheus
prometheus:
  prometheusSpec:
    storageSpec:
      volumeClaimTemplate:
        spec:
          accessModes: ["ReadWriteOnce"]
          resources:
            requests:
              storage: 20Gi
EOF

helm repo add prometheus-community https://prometheus-community.github.io/helm-charts
helm repo update
helm install prometheus prometheus-community/kube-prometheus-stack -n monitoring -f values.yaml

• 为了采集 MongoDB 的 db 大小，需要部署 MongoDB Exporter

#填需要采集数据的 MongoDB 的连接串
DATABASE_URL=<mongodb-uri-need-to-monitor>

helm install prometheus-mongodb-exporter -n laf-system \
    --set image.tag="0.39.0"
    --set mongodb.uri=${DATABASE_URL} \
    --set serviceMonitor.enabled=true \
    --set serviceMonitor.additionalLabels.release=prometheus \
    --set serviceMonitor.additionalLabels.namespace=monitoring \
    prometheus-community/prometheus-mongodb-exporter

• 采集cpu和内存指标，只需要内存
  kubelet 作为 k8s 的组件自带了 cAdvisor 组件，cAdvisor 是一个用于 收集关于容器的资源使用情况和性能特性的工具，为容器运行时（如Docker和containerd）提供监控和统计信息。而kube-prometheus-stack 集成了对 kubelet 的采集规则，所以这块我们不需要特别处理。
• 部署完成后，使用 kubectl port-forward 进入 Prometheus 的 Web UI，查看各采集目标是否都 UP 了。至此，Prometheus 便会根据采集规则定期地去轮询各采集目标，得到采集数据存到数据库中。

laf编写 PromQL 查询语句验证效果

什么是 PromQL

1. 概念：PromQL 是 Prometheus Query Language 的缩写，它是用于 Prometheus 数据库的专用查询语言。Prometheus 主要用于监控系统和时间序列数据库，PromQL 使用户能够查询和分析收集的数据，在 Prometheus 的界面或其他集成工具中，PromQL 可用于生成数据的可视化图表。
2. 类比：想象一下 ，SQL 用于关系型数据库，PromQL 就是用于 Prometheus 时间序列数据库的。就像使用 SQL 查询关系型数据库中的数据一样，使用 PromQL 查询 Prometheus 中的时间序列数据。
3. 例子：
4. 查询某个服务的平均响应时间：http_requests_duration_seconds_sum / http_requests_total

• 查询在过去5分钟内的平均 CPU 使用率：rate(node_cpu_seconds_total[5m])
• 根据条件设置警报，例如，当某个服务的请求错误率超过1%时
  rate(http_requests_total{status_code=~"5.."}[5m]) / rate(http_requests_total[5m]) > 0.01

我们需要的PromQL

# 下面的 ${xxx} 代表变量，自行拼接。PromQL 的编写方法可以自行查阅

# CPU
sum(rate(container_cpu_usage_seconds_total{image!="",container!="",pod=~"${opts.pods}",namespace="${opts.namespace}"}[1m])) by (pod)

# 内存
sum(container_memory_working_set_bytes{image!="",container!="",pod=~"${opts.pods}",namespace="${opts.namespace}"}) by (pod)

# 数据库
sum(mongodb_dbstats_dataSize{database="${opts.appid}"})

# MinIO
sum(minio_bucket_usage_total_bytes{bucket=~"${opts.appid}.+"})

打开 Prometheus 的 Web UI 页面验证

laf后端代码实现

❝
我们需要查询的数据包括瞬时值（db 和 oss 的大小）和范围值（ cpu 和内存在一段时间内的波动）

• 查询范围值

const url = "http://prometheus-prometheus.monitoring:9090"
const promql = ""

const range = 3600 // 1 hour
const now = Math.floor(Date.now() / 1000)
const start = now - range // 向前推进一小时
const end = now

const query = {
   query: promql,
   range,
   step: 60,
   start,
   end,
}
const res = await axios.get(url, { params: query }) 
return res.data.data.result

• 查询瞬时值

const url = "http://prometheus-prometheus.monitoring:9090"
const promql = ""

const query = {
   query: promql,
}
const res = await axios.get(url, { params: query }) 
return res.data.data.result

laf前端部分

❝
针对返回结果使用 ECharts 等图表组件实现

引用链接
[1]
使用 sealos 快速部署自己的 k8s: https://sealos.io/zh-Hans/docs/Intro

加入 Laf 开源社区
体验像写博客一样写代码

🏠官网链接
https://laf.run

🐙GitHub 地址
https://github.com/labring/laf

📑访问 Laf 文档
https://doc.laf.run/guide/

🏘️逛逛论坛
https://forum.laf.run/
sealos 以kubernetes为内核的云操作系统发行版，让云原生简单普及

laf 写代码像写博客一样简单，什么docker kubernetes统统不关心，我只关心写业务！