2017-03-02 52 views
1

我們有地方出現一個卡夫卡消費者沒有接收發布到主題的消息的問題。 (我說出現,因爲我現在還沒有到這條底線,我可能是錯的。)如何確定卡夫卡消費者的偏移

我使用Spring爲Apache的卡夫卡和我的消費實際上是@KafkaListener註釋的方法。

這個問題是間歇性的,我無法重新創建它。

有我的方式看卡夫卡經紀人的記錄,或任何其他工具,以幫助我找出我的消費者補償?我想要具體的證據證明我的消費者正在接收消息。

+1

代理日誌(即日誌文件)中沒有任何內容包含此信息。請參閱SönkeLiebau的答案,瞭解如何找到您要查找的信息。 –

回答

4

查看kafka-consumer-groups工具,該工具可用於檢查消費者的偏移和滯後(消費者在您運行此命令時必須處於活動狀態)。

./kafka-consumer-groups --bootstrap-server 127.0.0.1:9092 --new-consumer --describe --group console-consumer-55936 

GROUP       TOPIC       PARTITION CURRENT-OFFSET LOG-END-OFFSET LAG    OWNER 
console-consumer-55936   test       0   6    6    0    consumer-1_/192.168.0.83 
console-consumer-55936   test       1   1    1    0    consumer-1_/192.168.0.83 
console-consumer-55936   test       2   1    1    0    consumer-1_/192.168.0.83 
console-consumer-55936   test       3   1    1    0    consumer-1_/192.168.0.83 
console-consumer-55936   test       4   2    2    0    consumer-1_/192.168.0.83 
console-consumer-55936   test       5   1    1    0    consumer-1_/192.168.0.83 
console-consumer-55936   test       6   1    1    0    consumer-1_/192.168.0.83 
console-consumer-55936   test       7   2    2    0    consumer-1_/192.168.0.83 
console-consumer-55936   test       8   1    1    0    consumer-1_/192.168.0.83 

這應該允許您跟蹤是否任何實際消耗與否。

+0

這看起來很完美。 「卡夫卡 - 消費者羣體」是卡夫卡最新版本的一部分嗎?我們正在使用2.11-0.9.0.1。 – vegemite4me

+1

據我所知,這是在介紹[0.9.0.0](https://issues.apache.org/jira/browse/KAFKA-1476),所以應該是提供給您。 –

+0

啊,看起來他們錯過了爲此創建'.bat'文件版本。我已經創建了自己的本地([有人至今已將此添加到項目(https://github.com/apache/kafka/commits/trunk/bin/windows/kafka-consumer-groups.bat))。再次感謝你。 – vegemite4me

1

除了使用在對方的回答是正確的,完全有效的,你也可以使用Windows GUI應用程序,顯示你對Consumer_groups相同的信息和他們的偏移/滯後描述./kafka-consumer-groups:

http://www.kafkatool.com/download.html