如何水平縮放http請求？

Question

好吧，說我有一個簡單的網絡服務器實例，它總是響應「Hello world」，這個簡單的服務器只能同時處理1K連接。

我必須同時處理1M個http請求，所以我用我的web服務器實例克隆了1K個節點。

但我只有一個切入點。所有請求都通過一點。

那麼應該把什麼作爲切入點來委託請求？哪些軟件可以將1M請求傳輸到1K Web服務器？

Answer 1

如果您使用循環法DNS，請求可以通過多個點來完成。

如果你想要在Linux上使用反向代理軟件，Nginx是最好的選擇。

node-http-proxy也似乎很流行。

Golang在其httputil包中內置了ReverseProxy。

（如果我沒有記錯的話，這三個以上將使用Linux上epoll，但也不能保證任何軟件可以隨時處理1M的連接。這取決於很多因素。）

負載均衡是一個廣泛的話題。這裏有幾個鏈接閱讀：

https://en.wikipedia.org/wiki/Round-robin_DNS

https://en.wikipedia.org/wiki/C10k_problem

https://en.wikipedia.org/wiki/Clustered_web_hosting

https://en.wikipedia.org/wiki/Reverse_proxy

https://en.wikipedia.org/wiki/Load_balancing_(computing)