1、消费者与Partition

假设主题T1有四个分区。

1.1、一个消费者组

1.1.1、消费者数量小于分区数量

只有一个消费者时,消费者1将收到4个分区的全部消息。
1个消费者.png
当有两个消费者时,每个消费者将分别从两个分区接受消息。
2个消费者.png

1.1.2、消费者数量等于分区数量

当有四个消费者时,每个消费者都可以接受一个分区的消息。
4个消费者.png

1.1.3、消费者数量大于于分区数量

当有五个消费者时,会有闲置的消费者。
5个消费者.png

1.2、两个消费者组

消费者群组之间是互不影响的,如图:
2个消费者组.png

2、分区分配策略

当消费者加入群组的时候,会根据分区分配策略决定哪些分区分配给哪些消费者。
Kafka有两种分配策略:Range和RoundRobin。

  • Range

Topic的若干个连续的Partition分配给消费者。

  • RoundRobin

Topic的所有Partition逐个分配给消费者。

3、分区Rebalance(再均衡)

  • 有新的消费者加入消费者群组
  • 已有的消费者退出消费者群组
  • 订阅的主题的分区发生变化

以上三种情况都会触发分区的重新分配,重新分配的过程叫Rebalance(再均衡)。
Rebalance给消费者群组带来了高可用性与伸缩性,但是在Rebalance期间,消费者无法读取消息,整个群组一小段时间不可用,而且当分区被重新分配给另一个消费者时,消费者当前的读取状态会丢失。

tencent.jpg


clawhub
99 声望12 粉丝