是否可以重命名debezium mysql连接器运行时触发的消息上的字段?

时间:2019-03-27 04:34:37

标签: apache-kafka-connect debezium

我已经配置了debezium mysql连接器,我需要在有效负载中包括附加字段作为表名。我需要进行哪些配置更改才能实现此目标?

1 个答案:

答案 0 :(得分:2)

表名已经包含在source.table元素中。 Here's的示例消息插入到名为rental的表中:

{
  "before": null,
  "after": {
    "fullfillment.sakila.rental.Value": {
      "rental_id": 13346,
      "rental_date": 1124483301000,
      "inventory_id": 4541,
      "customer_id": 131,
      "return_date": {
        "long": 1125188901000
      },
      "staff_id": 2,
      "last_update": "2006-02-15T21:30:53Z"
    }
  },
  "source": {
    "name": "fullfillment",
    "server_id": 0,
    "ts_sec": 0,
    "gtid": null,
    "file": "mysql-bin.000002",
    "pos": 832,
    "row": 0,
    "snapshot": {
      "boolean": true
    },
    "thread": null,
    "db": {
      "string": "sakila"
    },
    "table": {
      "string": "rental"
    }
  },
  "op": "c",
  "ts_ms": {
    "long": 1518190060267
  }
}

如果要插入其他字段,可以使用InsertField$Value单消息转换,您可以在this article中看到一个示例。


编辑:

如果您希望该字段位于消息的不同部分,则可以有一些选择。您可以使用Kafka Streams对数据进行后处理,以根据需要对其进行重组。您可以使用可用的单一消息转换来展平after组件,然后添加静态值:

            "transforms": "unwrap,InsertTopic,InsertSourceDetails",
            "transforms.unwrap.type": "io.debezium.transforms.UnwrapFromEnvelope",
            "transforms.InsertTopic.type":"org.apache.kafka.connect.transforms.InsertField$Value",
            "transforms.InsertTopic.topic.field":"messagetopic",
            "transforms.InsertSourceDetails.type":"org.apache.kafka.connect.transforms.InsertField$Value",
            "transforms.InsertSourceDetails.static.field":"messagesource",
            "transforms.InsertSourceDetails.static.value":"Debezium CDC from Oracle on asgard"

或者您可以编写自己的“单个消息转换”以完全进行所需的修改。