在負載平衡器上加載

Question

在我們的TCP服務器部署中，我們有所有客戶端最初連接的負載平衡器。然後，負載均衡器會爲每個實際的服務器IP地址提供它們所連接的IP地址。然後，客戶端從負載均衡器斷開連接並繼續到他們所擁有的服務器IP地址的TCP連接。因此，負載正在服務器之間分配。

這種安排對於數以千計的連接非常有效。但是我們擔心這是否可以用於數百萬個連接？負載均衡器本身無法及時地爲所有客戶端提供服務器IP地址，這是我們的噩夢。這裏有什麼替代方案？

Answer 1

真的取決於您使用的負載平衡器是否可以配合。一些負載均衡器可以執行數百萬個L4連接。另外我不認爲有連接直接連接到服務器是一個好主意，因爲如果服務器不可用，連接會發生什麼。我會保留所有流量到負載均衡器。您也可以考慮直接服務器返回，這是客戶端的請求通過負載均衡器並將響應直接發送到客戶端（繞過負載均衡器）的地方。