kafka-streams:在将消息结构发送到kafka主题之前修改消息结构

时间:2018-09-21 08:17:50

标签: apache-kafka apache-kafka-streams apache-kafka-connect

我有一种情况,我需要更改从JDBC源连接器获得的消息结构,然后再将其击中kafka。 我是kafka的初学者,因此kafka流如何帮助我实现这一目标。

输入-

{"id":"123","firstName":"pqr","lastName":"xyz","age":"23","dob":"20-09-1995"} 

我要将其存储在elasticseacrh索引中

{"id":"123","name":{"firstName":"pqr","lastName":"xyz"},"age":"23","dob":"20-09-1995"} 

我没有设置kafka流,我想使用它,如果可以使用KSQL,我想知道。

1 个答案:

答案 0 :(得分:0)

似乎您正在使用Kafka Connect。对于这种情况,“单消息转换”(SMT)是您的朋友。这些使您可以在连接器将数据写入主题之前,对每个消息进行一次转换。

查看此博客文章以了解更多详细信息:https://www.confluent.io/blog/simplest-useful-kafka-connect-data-pipeline-world-thereabouts-part-3/