2011-10-07 33 views
1

我有一個龐大的數據收集服務器網絡,可以生成大量的實時數據。消息是否爲高帶寬數據饋送排隊?

在過去,我已經爲合作伙伴提供了使用HTTP GET的近實時獲取數據的能力。但由於很多原因,我急於拋棄這一點。

所以是的......我渴望建立一個新的分配系統,我在想消息隊列系統是一條可行的路。

我需要能夠將來自我的來源的數據分發給多個不同的合作伙伴。有些合作伙伴會收到所有的信息,其他人只會收到一部分。而且,如果合作伙伴斷開連接,他們需要能夠重新連接並且不會錯過任何數據。 (雖然,爲了磁盤和內存的緣故,我希望他們的排隊消息在一小時左右後過期)

最後,我需要系統能夠處理每分鐘成千上萬的入隊隊列。

您認爲消息隊列是一個合適的方案嗎?

我在看使用RabbitMQ。難以維護嗎?

非常感謝!

-Z

+0

什麼更重要:吞吐量或延遲/響應時間? – Bernd

+0

對合作夥伴的延遲並不是非常重要。如果它不到一分鐘就沒關係。 – zorlack

回答

2

我不能告訴你,如果它是在特定情況下,正確的戰略,但消息產品確實是在高消息速率系統天天使用。

大部分投資領域使用各種商品(Tibco)和開放源代碼(ZeroMQ)來命名兩個產品,以處理來自交易所和其他來源的市場數據。這些可能至少與您的數據傳感器一樣有效。

發佈/訂閱模型,其中一些接收器需要一些消息和一些接收器希望所有,連同遲加入或其他所謂保證消息確實對這些產品大部分的標準功能。

因此,請繼續並調查產品,我自己並沒有使用RabbitMQ,因此無法專門對其進行評論,但是如果採用最小抽象層,則應該能夠避免使用過多平臺特定的調用,因此允許如果需要,您可以交換消息總線實施者。 (您甚至可能希望構建一個概念驗證的一部分,以便針對您的特定目的測試多個產品。您可以獲得多種產品的經驗,充實外觀層,並加快速度產品)

好運