从KakfaIO开始给定的偏移量

时间:2018-06-06 16:14:49

标签: apache-beam

我使用KafkaIO.read()并且我想开始使用特定的偏移量。

在某些时候,曾经有KafkaIO.read().withStartFromCheckpointMark()方法来做到这一点。

我从documentation看到有一种方法可以通过:

  

KafkaCheckpointMark由跑步者提供;

我该怎么做?

由于

1 个答案:

答案 0 :(得分:0)

没有直接支持,但有几种选择:

  • withStartReadTime()可能更适合。
  • 您可以在该组中创建group.id并提交抵消。在KafkaConsumer配置中设置group.id时,KafkaIO默认从为该组提交的偏移量恢复。您还可以选择在KafkaConsumer中启用auto.commit。请参阅高级Kafka配置'在JavaDoc。