kafka0.11.0.2安装 笔记

一、kafka
1、下载

官网地址：http://kafka.apache.org/downloads
下载：wget http://mirrors.hust.edu.cn/apache/kafka/0.11.0.2/kafka_2.11-0.11.0.2.tgz

2、解压: tar -zxvf kafka_2.11-0.11.0.2.tgz

3、修改配置文件

在config目录下，可以看到很多的配置文件，修改server.properties
broker.id=0 #每个kafka节点的唯一标识
listeners=PLAINTEXT://192.168.5.28:9092 #监听端口 
log.dirs=/data/kafka-logs #日志地址
zookeeper.connect=192.168.5.28:2181,192.168.5.29:2181,192.168.5.30:2181/kafka #zookeeper地址

提示：

   zookeeper.connect=host:port默认存在zookeeper根目录，如果要存在特殊目录，需要添加chroot,如/kafka 其他所有使用--zookeeper

4、启动:./bin/kafka-server-start.sh config/server.properties 1>/dev/null 2>&1 &

5、测试命令
5.1 新建Topic

 ./bin/kafka-topics.sh --create --zookeeper 192.168.5.29:2181 --replication-factor 3 --partitions 1 --topic 30test

5.2 查看已存在Topic列表

./bin/kafka-topics.sh --list --zookeeper 192.168.5.28:2181,192.168.5.29:2181,192.168.5.30:2181

5.3 查看指定Topic状态

./bin/kafka-topics.sh --describe  --zookeeper 192.168.5.28:2181,192.168.5.29:2181,192.168.5.30:2181 --topic 247test

5.4 查看所有topic状态

 ./bin/kafka-topics.sh --describe  --zookeeper 192.168.5.28:2181,192.168.5.29:2181,192.168.5.30:2181

5.5 启动Consumer读取消息并输出到标准输出

./bin/kafka-console-consumer.sh  --zookeeper 192.168.5.28:2181,192.168.5.29:2181,192.168.5.30:2181 --from-beginning --topic 247test

5.6 写入数据 (--broker-list 不需要使用/kafka路径)

./bin/kafka-console-producer.sh --broker-list 192.168.5.28:9092 --topic 247test

5.7 删除topic （设置delete.topic.enable=true）

./bin/kafka-topics.sh --delete --zookeeper 192.168.5.28:2181,192.168.5.29:2181,192.168.5.30:2181 --topic 247test

二、kafka监控工具KafkaOffsetMonitor
1、下载：wget https://github.com/quantifind...
2、新建执行脚本：vim start.sh

脚本内容：（注意zk路径）
#!/bin/bash
java -cp KafkaOffsetMonitor-assembly-0.2.1.jar \
     com.quantifind.kafka.offsetapp.OffsetGetterWeb \
     --zk 192.168.5.28:2181,192.168.5.29:2181,192.168.5.30:2181/kafka \
     --port 8088 \
     --refresh 10.seconds \
     --retain 2.days

3、执行权限

chmod +x start.sh

4、启动

./start.sh 1>/dev/null 2>&1 &

注：页面默认使用的是ajax.googleapis.com的js库源，可能会下载失败，可修改index.html文件修改库源为国内库源。

vim KafkaOffsetMonitor-assembly-0.2.1.jar  # 进入jar包
?offsetapp/index.html                      # 查找到index.html文件
Enter                                      # enter进入文件
修改为http://apps.bdimg.com/libs/angular.js/1.2.9/angular.js  # 编辑html文件
修改后保存退出即可。