爲什麼在opencl中隨着消息大小增加帶寬增加？

Question

嗨在一篇關於opencl中的數據傳輸的文章中，我讀了由於我們想要發送到設備內存的數據大小增加了帶寬會增加，但我不知道爲什麼。有人可以向我解釋爲什麼帶寬會增加嗎？

Answer 1

每次內核啓動或從GPU傳輸時，都會有幾微秒的短暫延遲。從歷史上看，AMD GPU比Nvidia GPU更大。因此，發送數據需要兩個時間：latency + X * Y B/s其中X是字節數，Y是理論帶寬。當X很小時，X * Y並不比latency大很多。由於X變大，例如多個兆字節，總時間的latency分量佔總時間的很小一部分，因此它變得微不足道。