Kafka关于消费者群体的问题

时间:2017-04-06 03:05:54

标签: apache-kafka load-balancing publish-subscribe

我是卡夫卡的新手。我瞥了一眼Kafka文档。似乎通过将分区与使用者实例绑定来实现分派给订阅使用者组的消息。

  

当我们使用Apache Kafka时,我们应该记住的一件重要事情是,同一个消费者群体中的消费者数量应该小于或等于消费主题中的分区数量。否则,将不会从该主题收到超出消费者的任何消息。

在非prod环境中,我没有配置主题分区。在这种情况下,Kafka中只有一个分区。如果我启动多个使用者共享同一个组并将其订阅到该主题,那么该消息是否会始终分派到组中的同一个实例?换句话说,我必须对主题进行分区以获得消费者组中的负载平衡功能吗?

谢谢!

1 个答案:

答案 0 :(得分:2)

你是对的。一个分区不能在并行处理(由一个消费者组)。您可以将分区视为原子分区,但不能拆分。

如果您为每个主题配置相同数量的分区的非prod和prod env,那么这应该有助于您在转移到prod之前找到正确数量的conumsers并捕获问题。