KAFKA消费者和分区

时间:2014-11-24 06:27:16

标签: apache-kafka clj-kafka

1)任何人都可以解释KAFKA消费者如何了解分区并消耗特定分区的数据吗?

什么是消费群体?

2)我有3个分区,数据存储在所有分区中,

例如

(msg1,msg2,msg3和msg4)。 Msg1 - >分区2,msg2 - >分区3,msg3 - >分区1,msg4 - >分区4.

那么如何从消费者那里获得消息的连续顺序(msg)。

1 个答案:

答案 0 :(得分:3)

  1. Broker分区在Zookeeper中注册,因此通过查询ZK,消费者可以找到可用的分区。高级消费者正在为您自动执行此操作。
  2. 消费者群组是一组消费者实例的通用标识符,可以并行化一个或多个主题的消费。并行使用主题的消费者数量可能小于或等于该主题的分区数量,并且分区将在具有相同消费者组ID的消费者实例之间进行平衡。

    1. Kafka保证在分区内订购消费,但不保证在分区内消费,因此如果需要,则必须在消费者方面进行处理。