MPI-2 CPU VS GPU

Question

我對parallelising使用MPI-2的編碼工作。當我使用8核心處理器時，它正在成功加速。

我只是想知道會是什麼效果，如果我使用的GPU爲同一目的而不是CPU的？根據我迄今爲止的研究，OpenMPI與GPU兼容，只有在與CPU相比處理器間通信多的情況下，加速速度纔會更快。有沒有人試過，或者對此有任何意見？

Answer 1

GPU並行化是並行MPI一個完全不同的方向，在GPU線程不能像MPI行列，使MPI調用 - 他們並不是真正需要的中感甚至線程。不過，您可以通過在MPI程序的每個級別中調用GPU代碼來組合它們。