我们使用的是先前版本的Kafka(0.8.X),其中所有偏移细节都存储在ZooKeeper中。 现在我们转移到新版本的Kafka(0.10.X),其中所有主题偏移细节都存储在Kafka本身。 我们必须将所有主题偏移细节移动到ZooKeeper到Kafka以用于生产中的现有应用程序。 Kafka安装在Windows机器上。我们无法从windows运行kafka-consumer-groups.sh。 请建议如何将已提交的偏移量从ZooKeeper迁移到Kafka。
答案 0 :(得分:0)
来自https://kafka.apache.org/documentation/#offsetmigration:
早期版本中的Kafka消费者默认在ZooKeeper中存储其偏移量。可以通过以下步骤迁移这些使用者以将偏移提交到Kafka:
- 在您的消费者配置中设置
offsets.storage=kafka
和dual.commit.enabled=true
。- 对您的消费者进行滚动反弹,然后验证您的消费者是否健康。
- 在您的消费者配置中设置
dual.commit.enabled=false
。- 对您的消费者进行滚动反弹,然后验证您的消费者是否健康。
- 如果设置
offsets.storage=zookeeper
,也可以使用上述步骤执行回滚(即,从Kafka迁移回ZooKeeper)。
我的猜测是"滚动反弹"表示滚动重启。不确定它可能意味着什么,在这种情况下它是有道理的。