我将数据从binlog mysql同步到kafka,有时binlog文件已被删除,并且重新启动连接器时出现错误
org.apache.kafka.connect.errors.ConnectException: The connector is trying to read binlog starting at binlog file 'mysql-bin.000003', pos=154, skipping 0 events plus 0 rows
我将/tmp/connect.offsets更改为当前的binlog文件。但是它将再次从数据库推送主题中加载所有数据。我想防止这种情况,我只想从binlog文件中加载更改。
答案 0 :(得分:0)
这是预期的行为。 Debezium的停机时间永远不要超过未删除的任何二进制日志,因为这将导致数据不一致,因此错误消息是正确的。
对此情况的正确补救方法是使用snapshot.mode=when_needed
。您已经提到的另一个解决方案是偏移处理。但是在这里,您一定要犯任何错误,因为您所描述的内容听起来像连接器根本找不到偏移,因此它认为它从头开始就静止了,并启动了新快照。