Kafka Connect JDBC Sink-将嵌套的json映射到多个行

时间:2019-04-27 02:36:36

标签: jdbc apache-kafka apache-kafka-connect confluent

作为要求的一部分,我们将继续使用Kafka connect将数据推送到我们的数据库。到目前为止,我读到的是消息和数据库行之间存在1x1的映射,即对于Kafka上的一条消息,数据库中将有一个对应的条目。 我想知道是否有可能将嵌套的json分解为多行以插入到db中?

我能想到的2种可能性是: 1)为jdbc接收器编写自定义连接器 2)使用消费者组代替kafka connect

1 个答案:

答案 0 :(得分:0)

  

使用消费者组代替kafka connect

Connect 是一个消费群体。强烈建议不要编写自己的逻辑来处理连接失败,偏移管理,退役等,然后让Connect为您完成这些工作。如果这些“好处”对您不起作用,那么即使如此,我认为也最好分叉Connector代码(您的选项2),而不是编写简单的Consumer

连接单个消息转换大致就是您要寻找的。否则,您将编写一个消费者/生产者/ Kstreams应用程序以读取和写回“扁平化”主题,然后Connect将那个输出主题读入数据库。

注意:JDBC不是您唯一的选择。 Mongodb或Couchbase处理嵌套JSON很好