我們是否可以將延遲和吞吐量與並行性相關聯

我發現了很多博客，並回答了延遲與吞吐量的關係。但是他們都沒有把它與平行關係聯繫起來。我想知道爲什麼我們不能把它們聯繫起來，如下所示：我們是否可以將延遲和吞吐量與並行性相關聯

如果與延遲相比吞吐量較大，那麼應該涉及到並行性。（假設沒有優化，同時批處理）

例如，延遲10ms和1000 tps意味着tps增加（因爲10ms延遲意味着100tps），那麼多線程或並行性參與的可能性很大，可能在CPU級別。如果多個事務批處理時沒有優化。

另外，什麼因素會增加吞吐量而不是延遲。

來源

2016-12-19 Krishas

我認爲你不能這樣簡化它，因爲在所有的並行管道所依賴的地方可能有數據不能被並行化。 – JDC

我同意你的意見。我認爲在我的問題中存在一些清晰度問題，所以我刪除了方程並更新了它。 – Krishas

延遲時間是純粹的時間單位和吞吐量（這是每單位時間完成的工作量）部分與時間有關。

在單線程環境中，你可以認爲這兩個反向相關，潛伏期即更高，降低了吞吐量等

並行看作另一個層面這個矩陣。在可能的情況下（），並行會提高吞吐量，達到一定限度。然而，這可能會受到系統中設備的延遲的影響。例如，設想一個工作頻率爲2GHz的單線系統和一個工作頻率爲300MHz的4元件並行系統。爲簡單起見，假設應用程序是embarrassingly parallel。在這種情況下，單線程將比平行線更好。現在，如果我們將並行單元的運行速度提高到501 MHz，那麼它們將超越單線程單元。

來源

2016-12-19 09:20:12

好吧我已經更新了這個問題，因爲一些清晰度問題。我的問題是，與延遲相比，增加吞吐量的因素是什麼？ – Krishas

簡而言之：與並行性無關的批處理（以延遲爲代價增加吞吐量）可能有很多優點。有時會有固定的單位成本;有時更全局的優化可能會產生很大的影響;有時可以找到並丟棄重複等等。

747個硬盤可能是在世界範圍內發送數據的最高吞吐量方式，與並行性無關。

來源

2016-12-19 10:35:08 pron

正確投票，正如我在我的問題中提到的優化是肯定存在的（增加了更多的清晰度問題）。但在目前的情況下，第三方供應商表示他們的產品有3ms延遲和100萬tps（可能是某些內存數據庫，隊列等）。這讓我感到困惑。他們以3節點集羣爲例進行論證。在這種情況下，可能會有10-20個內核和20-50 GB的內存和延遲，這就涉及到單個事務，這隱藏了當我們談論TPS時並行性是主要部分的事實。 – Krishas

我們是否可以將延遲和吞吐量與並行性相關聯

回答

相關問題