在 0.9.0.0 之后的 Kafka,出现了几个新变动,一个是在 Server 端增加了 GroupCoordinator 这个角色,另一个较大的变动是将 topic 的 offset 信息由之前存储在 zookeeper 上改为存储到一个特殊的 topic(__consumer_offsets)中
/kafka/bin/kafka-server-start.sh -daemon /kafka/config/server.properties
JMX_PORT=9991 /kafka/bin/kafka-server-start.sh -daemon /kafka/config/server.properties
/kafka/bin/kafka-server-stop.sh
[使用zk] --zookeeper localhost:2181
[使用内置] --bootstrap-server localhost:9092
官方推荐如果kafka版本大于等于2.2使用–bootstrap-server替代–zookeeper (2.2以上也兼容–zookeeper)命令如下
kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1 --topic mytest
如果kafka版本小于2.2则命令如下
kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic mytest
参数解释:
1.指定kafka集群(2.2以上)或zookeeper集群
--bootstrap-server node1:9092,node2:9092,node3:9092....
或
--zookeeper node1:2181,node2:2181,node3:2181...
2.指定分区数
--partitions
3.指定分区的副本数
--replication-factor
所以执行上面命令将会创建一个名为mytest的topic,该topic下面有1个分区,并且该分区只有1个副本
kafka-topics.sh --list --bootstrap-server localhost:9092
kafka-topics.sh --describe --bootstrap-server localhost:9092 --topic mytest
kafka-topics.sh --bootstrap-server localhost:9092 --alter --topic mytest --partitions 5
time 为 -1 时表示最大值,为 -2 时表示最小值:
kafka-run-class.sh kafka.tools.GetOffsetShell --topic mytest --time -1 --broker-list 127.0.0.1:9092 --partitions 0
kafka-topics.sh --bootstrap-server localhost:9092 --topic mytest --delete
kafka-console-producer.sh --broker-list localhost:9092 --topic mytest
kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic mytest --from-beginning
从尾部开始取数据,必需要指定分区:
kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic mytest --offset latest --partition 0
kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic mytest --offset latest --partition 0
kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic mytest --offset latest --partition 0 --max-messages 1
kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic mytest -group test_group --from-beginning
kafka-consumer-groups.sh --bootstrap-server localhost:9092 --list
kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group test_group --describe
输出:
Consumer group 'test_group' has no active members.
TOPIC PARTITION CURRENT-OFFSET LOG-END-OFFSET LAG CONSUMER-ID HOST CLIENT-ID
test 0 5 5 0 - - -
# CURRENT-OFFSET: 当前消费者群组最近提交的 offset,也就是消费者分区里读取的当前位置
# LOG-END-OFFSET: 当前最高水位偏移量,也就是最近一个读取消息的偏移量,同时也是最近一个提交到集群的偏移量
# LAG:消费者的 CURRENT-OFFSET 与 broker 的 LOG-END-OFFSET 之间的差距
kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group test_group --delete
平衡Leader
kafka-preferred-replica-election.sh --bootstrap-server localhost:9092
或
kafka-leader-election.sh --bootstrap-server localhost:9092 --topic test --partition=2 --election-type preferred
--partition:指定需要重新分配leader的partition编号
自带压测工具
kafka-producer-perf-test.sh --topic test --num-records 100 --record-size 1 --throughput 100 --producer-props bootstrap.servers=localhost:9092