haproxy後面的扭曲應用程序

Question

我有一個簡單的扭曲應用程序，它服務於「Hello World！」通過HTTP協議。我試圖運行多個實例來使用所有處理器。

但我提到，單個扭曲的應用程序處理haproxy後面的相同應用程序的甚至1個，2個或5個實例的請求要多得多。我無法弄清楚爲什麼會發生這種情況。

我運行5000個線程通過JMeter獲得/。當我在127.0.0.1:9001上運行它時，它在500ms時間內成功處理每個請求。當我在127.0.0.1:8080上運行它時，有些響應是503 Service Unavailable，有些響應超過500ms。

這裏是我的配置文件：

global 
    maxconn 500000 
    user german 

defaults 
    mode http 
    retries 0 
    timeout connect 5000ms 
    timeout client 50000ms 
    timeout server 50000ms 
    balance roundrobin 
    # if something goes wrong with server, redistribute client to a working server 
    option redispatch 

listen http 127.0.0.1:8080 
    mode http 
    option httpchk GET/HTTP/1.1 

    server prototype-local 127.0.0.1:9001 maxconn 0 weight 1 maxqueue 0 cookie server01 check inter 5000 rise 1 fall 3 

    balance roundrobin 

    # to see ip's of clients 
    option forwardfor 
    option http-server-close 
    # disable or enable immediate session resource cleaning(useful for chat) 
    # option nolinger 
    # inserts cookie to each client requet to identify a process 
    cookie SWCOMMET insert indirect nocache 
    # will be enalbed as soon as main server with process crashed :nice fail resistance 
    option allbackups 

Answer 1

當我在127.0.0.1:9001運行它，它成功地處理每個請求在500毫秒的時間

你在開玩笑吧？如果一個像「hello world」這樣簡單的應用程序在500毫秒內響應，肯定會有某處出現問題。

你應該檢查你的服務器是不是交換（例如：由於內存泄漏），這可能解釋如此巨大的響應時間，以及爲什麼當你在鏈中添加haproxy會更糟，因爲這兩個進程會受到影響。

從haproxy獲得503的事實意味着它丟失了對健康檢查無響應的服務器。這符合BTW的巨大響應時間。

也有可能出於某種原因，應用程序正在佔用所有的CPU，並且如果它綁定到同一個CPU上，會導致haproxy的高調度延遲。您應該監視CPU使用情況並查看每個進程在哪個CPU上運行（爲此，請使用「top」）。理想情況下，您應該強制haproxy到特定的核心（使用taskset），並將您的應用程序強制到另一個核心。避免跨內核線程遷移對於實現高負載至關重要，因此每個新實例都必須在專用內核上運行。

如果服務器吃了很多內存，應該使用haproxy的服務器maxconn參數來序列化請求（並刪除maxqueue）。

在haproxy配置中看到的其他事情中，全局maxconn非常龐大，沒有多大意義，因爲您需要大約9 GB的RAM才能達到此限制。此外，您需要在默認部分中設置maxconn值，因爲前端的默認值爲2000，可能低於您嘗試的值。

你應該刪除「maxconn 0」，「maxqueue 0」和「weight 1」，因爲它們是默認值，只會使配置的理解變得複雜。