更改connect.offsets kafka连接器错误

时间:2020-05-29 08:23:48

标签: apache-kafka apache-kafka-connect debezium

我将数据从binlog mysql同步到kafka,有时binlog文件已被删除,并且重新启动连接器时出现错误

org.apache.kafka.connect.errors.ConnectException: The connector is trying to read binlog starting at binlog file 'mysql-bin.000003', pos=154, skipping 0 events plus 0 rows

我将/tmp/connect.offsets更改为当前的binlog文件。但是它将再次从数据库推送主题中加载所有数据。我想防止这种情况,我只想从binlog文件中加载更改。

1 个答案:

答案 0 :(得分:0)

这是预期的行为。 Debezium的停机时间永远不要超过未删除的任何二进制日志,因为这将导致数据不一致,因此错误消息是正确的。

对此情况的正确补救方法是使用snapshot.mode=when_needed。您已经提到的另一个解决方案是偏移处理。但是在这里,您一定要犯任何错误,因为您所描述的内容听起来像连接器根本找不到偏移,因此它认为它从头开始就静止了,并启动了新快照。