是否可以从旧版Kafka中读取并写入新版Kafka?

时间:2017-04-19 09:17:08

标签: apache-kafka kafka-consumer-api kafka-producer-api apache-kafka-connect

我有一个要求,我必须从0.8.2版本的Kafka读取并处理数据并写入0.10.2版本的Kafka。

请帮我找到解决方案。

2 个答案:

答案 0 :(得分:2)

使用kafka MirrorMaker.you可以将数据镜像为0.8.2到0.10.2,然后处理数据为0.10.2

答案 1 :(得分:0)

不确定这是最好的选择,但你可以使用2台机器(未经测试):

框1:消费者然后是netcat

bin/kafka-console-consumer.sh --zookeeper myzookeeper:2181 --topic test --from-beginning | nc 1.2.3.4 5600

方框2(IP 1.2.3.4):netcat然后生产者

nc -l -p 5600 |  bin/kafka-console-producer.sh --zookeeper myotherzookeeper:2181 --topic test