2017-07-13 76 views
0

Kafka保證具有相同密鑰的消息始終會轉到同一個 分區。 例如,我有消息與字符串鍵:2329.和兩個主題t1和t2。按照預期,當我執行此消息的寫入時,它將在兩個主題中進入分區1。Kafka Streams狀態存儲備份主題分區策略

現在問題本身:我正在使用Kafka Streams 0.10.2.0持久狀態存儲,它會自動創建一個備份主題。現在如果這個備份主題消息的關鍵字是:2329進入另一個分區(分區0),這對我來說很陌生。

有沒有人遇到過這個問題?

+0

你使用相同的序列化程序嗎?分區號由密鑰的序列化值決定。如果Kafka Streams Serde使用與KafkaProducer使用的序列化程序不同的序列化程序,則可以解釋它。 –

+0

序列化器是一樣的,分區器是默認的。 – user3735823

回答

0

我發現問題在哪裏。

爲了提高性能,我在將數據寫入狀態存儲之前跳過了重新分區。並將該值的另一​​列用作狀態存儲鍵。它一直工作,直到添加了豐富信息的附加主題。所以我忘了進行重新分區。