2015-01-26 129 views
3

我有一個卡夫卡集羣數據中心。一些可以通過WAN(甚至是互聯網)進行通信的客戶端將向集羣發送/接收實時消息。Kafka生產者/廣域網上的消費者?

我從Kafka's Documentation閱讀:

...這是可能的讀取或寫入遠程集羣卡夫卡在廣域網上,雖然TCP調整將是必要的高延遲鏈路。

它通常是不可取的運行跨多個數據中心爲這將產生很高的複製延遲無論是卡夫卡寫和寫動物園管理員既不卡夫卡也不動物園管理員將保持可用,如果網絡分區的單一卡夫卡集羣。

據我瞭解herehere

  • 生產在WAN上不需要ZK並沒有問題,只是心中調整,以TCP進行高延遲的連接。大!檢查。
  • 的高級用戶API需要ZK連接。

又不是那麼客戶端讀取/上述大膽通過WAN主題寫卡夫卡爲集羣相同的限制?

回答

2

已經突出顯示的語句大多針對的是卡夫卡/飼養員集羣中邪惡的東西將在這期間是跨越WAN更常見的網絡分區之間發生的內部通信。

生產者是孤立的,如果有網絡問題應該能夠根據您的設置緩衝/重試。

高層次的消費者是因爲棘手,因爲你注意,需要到動物園管理員的連接。在這種情況下,當發生斷線時,將會有重新平衡,而更高的機會信息將會重複。

請記住,製片人需要能夠找到每個卡夫卡經紀人,而消費者需要能夠到達所有動物園管理員節點和卡夫卡經紀人,負載平衡器將無法工作。