使用docker快速部署elk、对接SpringBoot

使用docker快速部署elk

1. 软件 & 工具介绍

ELK是三个开源软件的缩写，分别表示：Elasticsearch , Logstash, Kibana , 它们都是开源软件。新增了一个FileBeat，它是一个轻量级的日志收集处理工具(Agent)，Filebeat占用资源少，适合于在各个服务器上搜集日志后传输给Logstash，官方也推荐此工具。

• Elasticsearch是个开源分布式搜索引擎，提供搜集、分析、存储数据三大功能。它的特点有：分布式，零配置，自动发现，索引自动分片，索引副本机制，restful风格接口，多数据源，自动搜索负载等。
• Logstash 主要是用来日志的搜集、分析、过滤日志的工具，支持大量的数据获取方式。一般工作方式为c/s架构，client端安装在需要收集日志的主机上，server端负责将收到的各节点日志进行过滤、修改等操作在一并发往elasticsearch上去。
• Kibana 也是一个开源和免费的工具，Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面，可以帮助汇总、分析和搜索重要数据日志。

Filebeat隶属于Beats。目前Beats包含四种工具：

1. Packetbeat（搜集网络流量数据）
2. Topbeat（搜集系统、进程和文件系统级别的 CPU 和内存使用情况等数据）
3. Filebeat（搜集文件数据）
4. Winlogbeat（搜集 Windows 事件日志数据）

2. 拉取ELK集成镜像

ELK镜像地址 : https://hub.docker.com/r/sebp...

[root@localhost /]# docker pull sebp/elk:740

注：740为ELK版本号，这里的版本号指的是ELK集成镜像的版本号。

3. 启动ELK，命令不做解释

[root@localhost /]# echo "vm.max_map_count=262144" > /etc/sysctl.conf
[root@localhost /]# sysctl -p
[root@localhost /]# docker run -dit --name elk \
    -p 5601:5601 \
    -p 9200:9200 \
    -p 5044:5044 \
    -v /opt/elk-data:/var/lib/elasticsearch \
    -v /etc/localtime:/etc/localtime \
    sebp/elk:740

注：-p 指定映射端口，5601kibana访问，9200es端口，5044 logstash收集日志端口；-v 指定es数据目录。

4. 配置ELK（以下内容全部在容器内操作）

进入docker容器

[root@localhost /]# docker exec -it elk /bin/bash

/etc/logstash/        ## logstash 配置文件路径
/etc/elasticsearch/   ## es 配置文件路径
/var/log/             ## 日志路径

• 配置Logstash

[root@localhost /]# vim /etc/logstash/conf.d/02-beats-input.conf

# 数据输入配置：port -> 端口号；codec -> 输入格式。这里以logback为例。
input {
  tcp {
    port => 5044
    codec=>json_lines
  }
}

# 数据输出配置：hosts -> 主机集合；index -> 你将要创建的索引名称。这里es为例。
output {
  elasticsearch {
    hosts => ["127.0.0.1:9200"]
    index => "%{[appName]}-%{+YYYY.MM.dd}"
  }
}

注：这个配置文件可以在/etc/logstash/conf.d/目录下创建，也可直接修改原有配置文件，看个人需求。

• 配置kibana中文

[root@localhost /]# vim /opt/kibana/config/kibana.yml

注：打开文件后，在文件内追加 i18n.locale: "zh-CN" ，重启服务即可。

• 常用服务操作命令

[root@localhost /]# service logstash start/restart/stop/status
[root@localhost /]# service elasticsearch start/restart/stop/status
[root@localhost /]# service kibana start/restart/stop/status

注：上面是各个服务 启动 / 重启 / 停止 / 状态，服务较大操作会比较缓慢，不要重复执行命令。

5. Kibana 简单使用

参照 Kibana 用户手册，中文文档，演示的Kibana为英文版本。

6. 相关参照文档

Centos Docker 安装 - 菜鸟教程

7. 集成到Spring Boot（LogBack）

<appender name="stash" class="net.logstash.logback.appender.LogstashTcpSocketAppender">
        <destination>xxx.xxx.xxx.xxx:xxx</destination>
        <includeCallerData>true</includeCallerData>
        <encoder class="net.logstash.logback.encoder.LogstashEncoder">
            <includeCallerData>true</includeCallerData>
            <!-- 根据应用名称创建索引-->
            <customFields>{"appName":"appName"}</customFields>
        </encoder>
    </appender>