kafka-producer-api

    0熱度

    2回答

    我有一個卡夫卡流應用程序,它從幾個主題中獲取數據,並加入了數據,並把它放在另一個話題。 卡夫卡配置: 5 kafka brokers Kafka Topics - 15 partitions and 3 replication factor. 注:我在哪裏我的卡夫卡經紀人運行相同的機器上運行卡夫卡流應用。 的幾百萬美元的記錄被消費/製造每隔一小時。每當我拿下任何一家卡夫卡經紀商時,它都會進入

    1熱度

    1回答

    我有一個Kafka Streams應用程序,它從少量主題獲取數據並加入數據並將其放入另一個主題中。 卡夫卡配置: 5 kafka brokers Kafka Topics - 15 partitions and 3 replication factor. 我運行在哪裏我的卡夫卡經紀人正在運行同樣的機器卡夫卡流應用。 每小時消耗/產生幾百萬條記錄。每當我把任何一個卡夫卡經紀人放下時,它會在重新

    0熱度

    1回答

    我正試圖在Kafka Processor中實現一個事務,以確保不會再次處理相同的消息兩次。給定一條消息(A)我需要創建一個將在事務中的另一個主題上產生的消息列表,並且我想在同一事務中提交原始消息(A)。從文檔中我發現Producer方法sendOffsetsToTransaction似乎只有在成功時才能在事務中提交偏移量。這是process()方法我Processor內部的代碼: producer

    0熱度

    1回答

    我使用LIBRDKAFKA C庫開發了一個RD Kafka客戶端。 LIBRDKAFKA C庫公開了set_config API來爲Consumer和Producer Handles設置配置值。有大約數百個可用的配置可供設置,對於每個值,set_congig變得非常繁瑣。重要的是,它在代碼本身中設置配置的效率不高,因爲我們沒有靈活性來根據不同的平臺調整配置值,因爲它需要RD Kafka客戶端的重新

    1熱度

    1回答

    嗯,我發現卡夫卡0.8.2的request.timeout.ms的含義與卡夫卡0.10.0不同。 https://kafka.apache.org/082/documentation.html https://kafka.apache.org/documentation/ 卡夫卡0.8.2: request.timeout.ms 的時間量的經紀人將等待試圖滿足發回一個錯誤給客戶之前,request

    0熱度

    1回答

    我試圖使用下面的鏈接設置kafka集羣。 https://github.com/wurstmeister/kafka-docker ,當我嘗試製作一些味精我得到這個錯誤之下。現在 [2017-09-20 17:00:53,160] WARN Error while fetching metadata with correlation id 3 : {topic=LEADER_NOT_AVAILAB

    0熱度

    1回答

    我想一個主題分成serveral的主題,基於數據的特定字段。是否有可能在流媒體中進行這樣的操作? 或者我應該寫一個典型的消費者和生產者? 例: 輸入主題:數據與屬性A(值AAA,BBB,CCC),B,C,d和E 輸出主題:3個主題使用名稱AAA,BBB和CCC具有相同的數據作爲輸入主題 此致 盧卡斯

    2熱度

    1回答

    目前,在我的公司,我們正在遷移從卡夫卡0.8至0.11,經紀人遷移步驟,並明確卡夫卡文檔here 什麼我陷在是,升級中陳述客戶端(生產者,消費者,火花流),我沒有找到任何文檔/文章清楚地列出了需要的更改或步驟來跟隨客戶端,我發現的所有內容是java doc Producer Client 我到目前爲止所做的是將我的gradle中的kafka客戶端版本更改爲kafka-clients-0.11.0.

    2熱度

    2回答

    我們有配置爲0.10.2.1版本的SSL的kafka代理,但我們需要使用Kafka客戶端0.8.2.1編寫生產者。此客戶端版本是否支持SSL安全性?

    -1熱度

    1回答

    我想讀取kafka中的Apache日誌,然後進一步處理Spark Streaming.I是kafka的新手。據我瞭解,我必須編寫一個生產者類來讀取日誌文件。