kafka:提交偏移失败,可重试异常。您应该重试提交偏移量

时间:2018-03-30 16:43:58

标签: java apache-kafka

  

[o.a.k.c.c.i.ConsumerCoordinator] [组的自动偏移提交失败   consumer-group:提交偏移失败,可重试   例外。你应该重试提交补偿。] []

为什么卡夫卡消费者会出现这种错误?这是什么意思?

我使用的消费者属性是:

fetch.min.bytes:1
enable.auto.commit:true
auto.offset.reset:latest
auto.commit.interval.ms:5000
request.timeout.ms:300000
session.timeout.ms:20000
max.poll.interval.ms:600000
max.poll.records:500
max.partition.fetch.bytes:10485760

出现这种错误的原因是什么?由于这个错误,我猜测消费者正在做重复的工作。

我既没有使用consumer.commitAsync()consumer.commitSync()

1 个答案:

答案 0 :(得分:2)

如果它捕获RetriableException的实例,则会出现此错误。

原因可能各不相同:

  • 如果协调员仍在加载组元数据
  • 如果尚未创建组元数据主题
  • 如果发生网络或磁盘损坏,或在处理请求时发生了与磁盘相关的杂项或与网络相关的IOException
  • 如果服务器在请求完成之前断开连接
  • 如果客户的元数据已过期
  • 如果当前没有给定分区的领导者
  • 如果没有经纪人可以完成请求

从上面的列表中可以看出,所有这些错误可能都是暂时性问题,因此建议您重试请求。