kafka:如何删除消费者已经消费过的数据?

时间:2017-04-28 09:39:24

标签: apache-kafka consumer

我设置了server.properties'

log.retention.minutes = 8

自动清理kafka-logs /每8分钟一次的数据,

是否可以让清洁工只清理已消耗的数据 消费者未消费的数据会保留吗?

谢谢!

1 个答案:

答案 0 :(得分:1)

没有。 Kafka消息附加到日志文件中,每隔x小时或当它们达到一定大小时(根据配置)滚动。翻转后,这些文件是不可变的(您无法删除单个记录)。当对文件的最后一次写访问超过保留时间时,将清除日志文件。

换句话说:保留时间是至少保留消息的时间。保留时间为几分钟的邮件可能持续数周(取决于其他配置设置)。

“消费者抵消”的概念是Kafka用来避免重建麻烦的机制。 Kafka 0.11也将包含一次性功能。