Kafka Streams状态存储备份主题分区策略

时间:2017-07-13 16:13:16

标签: apache-kafka kafka-producer-api apache-kafka-streams

Kafka保证具有相同密钥的消息将始终相同 划分。 例如,我有一个带有字符串键的消息:2329。以及两个主题t1和t2。当我执行此消息的写入时,它会按预期进入两个主题的分区1。

现在问题本身:我使用Kafka Streams 0.10.2.0持久状态存储,它自动创建备份主题。现在,如果这个备份主题消息带有密钥:2329进入另一个分区(分区0),这对我来说很奇怪。

有没有人遇到过这个问题?

1 个答案:

答案 0 :(得分:0)

我发现问题出在哪里。

为了提高性能,我在将数据写入状态存储之前跳过了重新分区。并使用值中的另一列作为状态存储键。它一直有效,直到添加了富集信息的附加主题。所以我忘了执行重新分区。