ClkLog埋点分析系统-环境部署配置指南

在今天的数字化世界中，数据管理和分析工具的选择对于企业的成功至关重要。ClkLog作为一款强大的日志分析工具，能够帮助企业从海量数据中洞察业务、提升效率。然而，如何才能顺利部署ClkLog系统，使其最大化地服务于您的业务呢？本篇文章将提供一站式的ClkLog部署指南，无论您是IT新手还是资深工程师，都能通过我们的指南，轻松掌握ClkLog的部署步骤和技巧，使得数据的收集、分析和管理变得更加简单、高效。

环境准备

●CentOS 7
●JDK 1.8
●Nginx 1.18
●Redis 3.2.4
●Zookeeper 3.7.1
●Kafka 2.12-3.3.1
●Flink 1.14.6
●Clickhouse 23.2.1
●nodejs >= 8.9
●npm >=3.0.0

初始化步骤参考

创建安装目录
1 mkdir /usr/local/services``

Java 1.8 安装参考

下载 jdk-8u211-linux-x64.rpm

1  rpm -ivh jdk-8u211-linux-x64.rpm
2  Copy to clipboard
3  Error
4  Copied

nginx 安装参考

1  yum install nginx
2  systemctl start nginx
3  Copy to clipboard
4  Error
5  Copied

Redis 3.2.4 安装参考

1.从 Redis 官网下载安装包

1  wget https://download.redis.io/releases/redis-3.2.4.tar.gz
2  Copy to clipboard
3  Error
4  Copied

2.解压

将安装包拷贝至/usr/local/services/目录并解压, 解压后进入redis安装目录：

1  cd /usr/local/services/
2  tar xzf redis-3.2.4.tar.gz
3  cd redis-3.2.4
4  Copy to clipboard
5  Error
6  Copied

3.编译

1  make
2  Copy to clipboard
3  Error
4  Copied

4.安装

1  make install
2  Copy to clipboard
3  Error
4  Copied

默认情况下，Redis 会被安装在/usr/local/bin目录下
5.修改配置
拷贝redis.conf 至/etc/redis/redis.conf

1  mkdir /etc/redis
2  cp redis.conf /etc/redis/redis.conf
3  Copy to clipboard
4  Error
5  Copied

修改配置文件：/etc/redis/redis.conf

1  vim /etc/redis/redis.conf

2  protected-mode no
3  daemonize yes
4  appendonly yes
5  Copy to clipboard
6  Error
7  Copied

6.启动服务

1  /usr/local/bin/redis-server /etc/redis/redis.conf
2  Copy to clipboard
3  Error
4  Copied

7.检查安装是否成功

1  cd /usr/local/bin
2  ./redis-cli
3  Copy to clipboard
4  Error
5  Copied

Zookeeper 3.7.1 安装参考

1.从 Zookeeper 官网下载安装包

1  wget --no-check-certificate https://dlcdn.apache.org/zookeeper/zookeeper-3.7.1/apache-zookeeper-3.7.1-bin.tar.gz
2  Copy to clipboard
3  Error
4  Copied

2.解压
将安装包拷贝至/usr/local/services/目录并解压, 解压后进入Zookeeper安装目录：

1  cd /usr/local/services/
2  tar -zxvf apache-zookeeper-3.7.1-bin.tar.gz
3  cd apache-zookeeper-3.7.1-bin
4  Copy to clipboard
5  Error
6  Copied

3.修改配置
拷贝配置文件，并增加配置项

1  cp ./conf/zoo_sample.cfg ./conf/zoo.cfg

2  admin.serverPort=8887
3  Copy to clipboard
4  Error
5  Copied

4.启动zk

1  ./bin/zkServer.sh start
2  Copy to clipboard
3  Error
4  Copied

5.检查

1  ./bin/zkServer.sh status
2  Copy to clipboard
3  Error
4  Copied

未启动成功，从./logs里查看启动日志

Kafka 2.12-3.3.1 安装参考

1.从 Kafka 官网下载安装包

1  wget --no-check-certificate https://archive.apache.org/dist/kafka/3.3.1/kafka_2.12-3.3.1.tgz
2  Copy to clipboard
3  Error
4  Copied

2.解压
将安装包拷贝至/usr/local/services/目录并解压, 解压后进入Kafka安装目录：

1  cd /usr/local/services/
2  tar -xzf kafka_2.12-3.3.1.tgz
3  cd kafka_2.12-3.3.1
4  Copy to clipboard
5  Error
6  Copied

3.启动

1  ./bin/kafka-server-start.sh  -daemon config/server.properties
2  Copy to clipboard
3  Error
4  Copied

4.检查
创建名为test的topic

1  ./bin/kafka-topics.sh --create --bootstrap-server 127.0.0.1:9092 --replication-factor 1 --partitions 1 --topic test
2  Copy to clipboard
3  Error
4  Copied

查看to

1  ./bin/kafka-topics.sh --bootstrap-server 127.0.0.1:9092 --describe --topic test
2  Copy to clipboard
3  Error
4  Copied

不报错正常，如果未启动成功，从./logs里查看启动日志

Flink 1.14.6 安装参考

1.从 Flink官网下载安装包

1  wget https://archive.apache.org/dist/flink/flink-1.14.6/flink-1.14.6-bin-scala_2.12.tgz
2  Copy to clipboard
3  Error
4  Copied

2.解压
将安装包拷贝至/usr/local/services/目录，重命名为flink-1.14.6.tgz后解压, 解压后进入Flink安装目录：

1  cd /usr/local/services/
2  mv flink-1.14.6-bin-scala_2.12.tgz flink-1.14.6.tgz
3  tar -xzf flink-1.14.6.tgz
4  cd flink-1.14.6
5  Copy to clipboard
6  Error
7  Copied

3.启动

1  ./bin/start-cluster.sh
2  Copy to clipboard
3  Error
4  Copied

4.检查
http://localhost:8081/

Clickhouse 23.2.1 安装参考

1.安装clickhouse

1  yum install -y yum-utils
2  rpm --import https://repo.yandex.ru/clickhouse/CLICKHOUSE-KEY.GPG
3  yum-config-manager --add-repo https://repo.yandex.ru/clickhouse/rpm/stable/x86_64
4  yum install clickhouse-server clickhouse-client
5  Copy to clipboard
6  Error
7  Copied

2.修改用户验证信息

修改/etc/clickhouse-server/users.xml文件，在标签下设置用户验证信息。比如，我们设定一个用户名为default，密码为123456。

更多设置请参考ClickHouse官方文档。

3.启动数据库

1  sudo systemctl enable clickhouse-server  
2  sudo systemctl start clickhouse-server  
3  sudo systemctl status clickhouse-server  
4  Copy to clipboard
5  Error
6  Copied

4.登录数据库

1  clickhouse-client -u default --password 123456
2  Copy to clipboard
3  Error
4  Copied