使用接收器节点上的Kafka连接获取输入数据的完整副本

时间:2017-04-06 23:42:29

标签: apache-kafka apache-kafka-connect

我试图写一个使用kafka连接器的简单案例。我的设置涉及使用三个节点N1,N2和N3。 在我的情况下,N1是源,N2,N3是汇聚节点。 我正在将数据写入节点N1上的文本文件(例如input.txt),并使用独立的kafka连接器希望在节点N2和N3上看到内容类似于input.txt的文本文件。

我正在使用REST API对主题名称,文件名和tasks.max进行更改。 但是,在实验过程中,我无法同时在两个节点(N2和N3)上获得input.txt的完整副本。

同样调整接收器节点(N2和N3)上tasks.max的值,决定将发送哪个节点数据。

所以,我的问题是我是否错误地期待这样的结果? 如果是这样,那么实验结果我应该期待什么呢? 如果没有,那么我如何得到我想要的结果呢?

我很感激有关此事的任何帮助。

1 个答案:

答案 0 :(得分:0)

我实际上为吸收器N2和N3使用相同的使用者组名称,因此在接收器N2和N3处接收的数据在它们之间被分开。

connect-file-sink-n2.properties connect-file-sink-n3.properties 允许吸收器N2和N3充当独立用户并接收完整数据。

Confluent讨论组的以下链接支持以下说明: https://groups.google.com/forum/?utm_medium=email&utm_source=footer#!topic/confluent-platform/SUn2OmXSAXY