如何在一個GPU上使用CUDA運行多個內核？

Question

kernel1 <<< blocks1, threads1, 0, stream1 >>> (args ...); 
... 
kernel2 <<< blocks2, threads2, 0, stream2 >>> (args ...); 
... 

我有兩個內核同時運行，
和設備是GTX460，所以它是費米架構。
cuda工具包和sdk是3.2 rc。

與上面的代碼類似，兩個內核編碼爲同時運行，
但是沒有來自任何內核的響應。

內核在做什麼有什麼限制？ 兩個內核共享一些數據
它們有一些共同之處。
如果我註釋掉大部分內核函數，那麼程序暫停。

請給我任何幫助。

Answer 1

運行在不同流上的事實並不意味着它們將同時運行。 如果第一個內核所需的資源量足以允許運行第二個內核，那麼情況就是這樣，否則它們將連續運行。 請確保在兩個內核調用後有一個cudaSyncThreads（），或者在兩個線程上同步。記住所有的cuda調用都是異步的。