使用 Graylog 管理服务日志

kwkwc

日志管理是一件麻烦的事情,特别是服务多的情况下出了问题需要排错、分析非常困难,一般会使用 ELK,但这篇文章将会介绍另外一个同样优秀的日志聚合平台 Graylog

准备工作

安装 docker、安装 pip、安装 docker-compose

Graylog 配置文件

graylog 的配置文件有两个,graylog.conf、log4j2.xml,其中 graylog.conf 的内容经常会有改动,可能会导致启动失败,所以请从下面的地址下载(同样是官方配置,只是版本不同)
# graylog.conf
https://github.com/kwkwc/dockerSH/blob/master/services/graylog/config/graylog.conf

# log4j2.xml
https://github.com/kwkwc/dockerSH/blob/master/services/graylog/config/log4j2.xml

注意事项

graylog 依赖 mongo、elasticsearch,如果机器配置低可能会启动失败

docker-compose.yml 文件

由于个人倾向于服务的独立性,所以会单独配置 mongo、elasticsearch、graylog

mongo

version: '2'
services:
  graylog-mongo:
    restart: always
    image: mongo:3.6.4
    container_name: graylog-mongo
    volumes:
      - ../data/graylog-mongo:/data/db

elasticsearch

version: '2'
services:
  graylog-elasticsearch:
    restart: always
    image: elasticsearch:5.6.9
    container_name: graylog-elasticsearch
    volumes:
      - ../data/graylog-elasticsearch:/usr/share/elasticsearch/data
    environment:
      - http.host=0.0.0.0
      - transport.host=localhost
      - network.host=0.0.0.0
      - xpack.security.enabled=false
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    ulimits:
      memlock:
        soft: -1
        hard: -1
    mem_limit: 1g

graylog

version: '2'
services:
  graylog:
    restart: always
    image: graylog/graylog:2.4.5-2
    container_name: graylog
    volumes:
      # 配置文件这里挂载
      - ./config:/usr/share/graylog/data/config
      # 持久化数据
      - ../data/graylog:/usr/share/graylog/data/journal
    environment:
      # 密码盐值,随便改
      - GRAYLOG_PASSWORD_SECRET=gr8r3hbnvfs73b8wefhweufpokdnc
      # 管理员名称
      - GRAYLOG_ROOT_USERNAME=admin
      # 密码需要填写 SHA256 加密的密文,例如这里是 admin
      # echo -n admin | shasum -a 256
      - GRAYLOG_ROOT_PASSWORD_SHA2=8c6976e5b5410415bde908bd4dee15dfb167a9c873fc4bb8a81f6f2ab448a918
      # elasticsearch host
      - GRAYLOG_ELASTICSEARCH_HOSTS=http://graylog-elasticsearch:9200
      # mongo host
      - GRAYLOG_MONGODB_URI=mongodb://graylog-mongo/graylog
      # 时区
      - GRAYLOG_ROOT_TIMEZONE=Asia/Shanghai
      # 将 x.x.x.x 替换成你的 IP
      - GRAYLOG_WEB_ENDPOINT_URI=http://x.x.x.x:9000/api
      - GRAYLOG_WEB_LISTEN_URI=http://0.0.0.0:9000/
      - GRAYLOG_REST_LISTEN_URI=http://0.0.0.0:9000/api
      # 其他配置请参考 graylog.conf 文件, 在需要覆盖的配置项前面加 "GRAYLOG_",换成大写
    ports:
      # web 和 api 端口
      - 9000:9000
      # Syslog TCP
      - 514:514
      # Syslog UDP
      - 514:514/udp
      # GELF TCP
      - 12201:12201
      # GELF UDP
      - 12201:12201/udp

启动

依次启动 mongo、elasticsearch、graylog
docker-compose up -d

浏览器打开

http://127.0.0.1:9000

搭建完成

图片描述

图片描述

设置

使用前需要先设置输入点
点击 “顶部导航栏” –> “System / Inputs” –> “Inputs”

图片描述

“Select Input” 选择 “GELF UDP” 然后按 “Launch new input”

图片描述

选择 “Node”,填写 “Title”,保存

图片描述

设置完成

出现绿色 “RUNNING”,证明运行成功

图片描述

docker 容器日志收集

以 redis 作为示例,配置日志驱动

docker-compose.yml

version: '2'
services:
  redis:
    restart: always
    image: redis:4.0.10
    container_name: redis
    logging:
      driver: gelf
      options:
        # 将 x.x.x.x 替换成你的 IP
        gelf-address: udp://x.x.x.x:12201
        tag: "redis"

查看

redis 启动后就可以在 graylog 的 “Search” 界面看到 redis 的日志

图片描述

默认不会显示 “tag” 标签栏,我们需要显示用于区分日志,只需要在左侧 “Fields” 打勾就行

图片描述

非 docker 容器日志收集

需要使用第三方工具收集日志再转发到 graylog,也可以直接发送,例如 python 可以使用 graypy 这个库

搜索

例如要搜索 redis 中包含 “WARNING” 字眼的日志(注意 “AND”、“OR” 等条件需要大写)

图片描述

图片描述

备注

docker 的日志驱动有几种,大多 ELK 的文章会介绍使用 syslog,但使用 syslog 在日志服务器断开重启后就不会接收到新日志,gelf 是 graylog 的日志格式,日志服务器断开重启依旧可以接收到新日志
阅读 9.4k
49 声望
3 粉丝
0 条评论
49 声望
3 粉丝
文章目录
宣传栏