OpenCL-浪費主機計算能力

Question

我是OpenCL的新手，請告訴我主機CPU只能用於爲設備分配內存，或者我們可以使用它作爲openCL設備。 （因爲分配完成後，主機CPU將空閒）。

Answer 1

您可以使用cpu作爲計算設備。 Opencl甚至允許多核/處理器系統將內核分割成獨立的計算單元。我喜歡使用此功能將我係統上的cpus劃分爲基於NUMA節點的組。有可能將cpu劃分爲全部共享相同級別的高速緩存（L1，L2，L3或L4）的計算設備。

您需要一個支持它的平臺，比如AMD的SDK。我知道可以在同一臺機器上安裝Nvidia和AMD平臺，但我自己從來沒有這樣做過。

此外，opencl事件/回調系統允許您在gpu內核執行時像往常一樣使用您的cpu。這樣，您可以在等待gpu內核完成時使用主機上的openmp或任何其他代碼。

Answer 2

沒有理由CPU必須閒置，但它需要一個單獨的工作。一旦你提交了OpenCL的工作，你可以：

1. 繼續其他事情，比如準備下一組工作，或者對完全不同的東西進行計算。
2. 將CPU設置爲另一臺計算設備，然後向其提交一項工作。

就我個人而言，我更傾向於發現自己需要第一種情況，因爲它很罕見我發現自己有兩個獨立的任務，並且可以藉助OpenCL方式。訣竅在於保持事物平衡，因此您不需要等很長時間才能完成GPU任務，或者在CPU開始其他工作時讓GPU閒置。

這是OpenGL程序員不得不征服的問題。避免CPU或GPU綁定，並在兩者之間實現最佳性能平衡。