Kafka Connect可以共享配置和偏移量主题吗

时间:2018-09-03 08:51:54

标签: apache-kafka

两个Apacke Kafka Connect元数据主题config.storage.topicoffset.storage.topic是否可以在两个或多个单独的Kafka Connect群集之间安全地共享?

每个文档的说明如下:

  

对于所有具有相同group.id的工作人员,该名称必须相同。

从文档中不清楚这些主题是否本质上必须由单个Kafka Connect集群拥有。

从广义上讲,我可以看到我的连接group.id 可以用作该主题中各项的前缀,但是目前尚不清楚它是否安全,或者是否安全依靠这种方法将Connect群集与彼此的元数据分开。

1 个答案:

答案 0 :(得分:5)

每个集群都需要自己专用的主题。

如果您有多个Kafka Connect集群试图使用相同的配置/偏移/状态主题(即使设置了不同的group.id),那么您会从Kafka Connect获得大量错误和/或意外行为。