压缩主题:日志清理程序和偏移消耗

时间:2017-08-16 03:13:35

标签: apache-kafka

与主题压缩相关的问题。在一个压缩的主题中,当日志清理器延迟清理特定键的先前偏移量(3,4,5)时(假设5是最新的偏移量),虽然消耗这些偏移作为消费者,但我只看到该密钥的最新偏移量(5),即使3和4仍未压缩或消费者将按此顺序获得(3,4,5)?

1 个答案:

答案 0 :(得分:1)

如果3和4尚未从主题中压缩,您的消费者将获得(3,4,5)。如果你订阅的时候会得到相同的结果,当3是最新的消息,然后4和5随后发布,所以它不应该破坏你的消费者逻辑。压缩永远不会在每个主题分区的最新段上运行,因为这些段文件仍然可以写入。这意味着无法保证每个密钥只存在于一条消息中。