亞馬遜WS彈性負載平衡器的工作

Question

我有興趣知道ELB的工作。我有一個客戶端向服務器發送CPU密集型請求。所有轉發給服務器的請求都通過AWS ELB傳遞。我已經爲服務器創建了一個自動調節組，其平均CPU利用率閾值爲80％。

例如，客戶端將通過ELB發送5個請求。轉發給服務器的第一個請求及其CPU利用率達到100％。現在，對於第二個請求，如果我沒有錯，就會創建一個新實例。這個新實例需要一些時間來初始化&開始處理，以便其CPU Util變爲100％。這意味着爲了讓一個服務器實例處理每個請求，我必須在兩個連續請求轉發到ELB之間放置一些比實例的初始化時間更長的仿真延遲？糾正我，如果我錯了？在這種情況下應該添加什麼樣的最佳延遲？

此外，是CPU使用率。整個自動縮放組或一個實例的閾值平均值？我的擴大規模政策有效嗎？

期望的結果是每個服務器實例處理一個並且所有服務器並行運行。我正在使用彈性來加快整體處理時間。

感謝預期

Answer 1

使用負載平衡器，您將不得不考慮啓動和實例的時間。這可能會使您的解決方案比需要的複雜一點。相反，您可能需要考慮以下幾點。

您有一個接收請求的實例。如果它沒有很多請求，它甚至可能是一個微型實例。這個實例會在SQS中創建作業。 （您可以使用另一個消息隊列系統，但可以在自動調節中使用SQS指標）。

您的工作實例會從SQS中接收一條消息，然後對其進行處理。您可以將結果保存到s3或數據庫，具體取決於您的方案最適合的情況（您可以將結果交付給客戶端提供的回調）。