cublasSgemm無效__global__讀

Question

當試圖執行使用cublasSgemm程序的張量矩陣的產品，地址越界發生錯誤，它的一個例子提供如下： -

========= Invalid __global__ read of size 4 
=========  at 0x000019f8 in sgemm_sm35_ldg_nn_64x16x64x16x16 
=========  by thread (6,3,0) in block (6,3,0) 
=========  Address 0x7ffc059064a8 is out of bounds 
=========  Saved host backtrace up to driver entry point at kernel launch time 
=========  Host Frame:/lib64/libcuda.so.1 (cuLaunchKernel + 0x2cd) [0x15859d] 
=========  Host Frame:/usr/local/cuda-7.5/lib64/libcublas.so.7.5 [0x21fb31] 
=========  Host Frame:/usr/local/cuda-7.5/lib64/libcublas.so.7.5 [0x23a343] 
=========  Host Frame:/usr/local/cuda-7.5/lib64/libcublas.so.7.5 [0x1d4e92] 
=========  Host Frame:/usr/local/cuda-7.5/lib64/libcublas.so.7.5 [0x1d17b4] 
=========  Host Frame:/usr/local/cuda-7.5/lib64/libcublas.so.7.5 [0x1d2c5e] 
=========  Host Frame:/usr/local/cuda-7.5/lib64/libcublas.so.7.5 [0x1d37b2] 
=========  Host Frame:/usr/local/cuda-7.5/lib64/libcublas.so.7.5 [0xecd31] 
=========  Host Frame:./test [0x2c0e] 
=========  Host Frame:./test [0x2a99] 
=========  Host Frame:/lib64/libc.so.6 (__libc_start_main + 0xf5) [0x21af5] 
=========  Host Frame:./test [0x2749] 

多次檢查尺寸後我的應用程序，並確定這不是問題，我寫了一個最小的工作示例。下面是相乘兩個正方形矩陣的簡單示例： -

#include "stdlib.h" 
#include "time.h" 
#include "stdio.h" 
#include "cuda.h" 
#include <cuda_runtime.h> 
#include "cublas_v2.h" 
#include <math.h> 
#include "cuda_error.h" 

void matrixMult(cublasOperation_t transA, cublasOperation_t transB, int M, int N, 
      int K, float alpha, float *A, float *B, float beta, float *C, 
       cublasHandle_t *cb_handle); 

int main(){ 
    int i, j, idx; 
    int D = 500; 

    int len = D*D; 
    float *A_h, *B_h, *C_h; 
    float *A_d, *B_d, *C_d; 

    A_h = (float*)malloc(len*sizeof(float)); 
    B_h = (float*)malloc(len*sizeof(float)); 
    C_h = (float*)malloc(len*sizeof(float)); 

    srand48(time(NULL)); 
    for(i=0; i<D; i++){ 
     for(j=0; j<D; j++){ 
      A_h[i*D + j] = drand48(); 
      B_h[i*D + j] = drand48(); 
     } 
    } 

    cudaCheck(cudaMalloc((void**)&A_d, len*sizeof(float))); 
    cudaCheck(cudaMalloc((void**)&B_d, len*sizeof(float))); 
    cudaCheck(cudaMalloc((void**)&C_d, len*sizeof(float))); 
    cudaCheck(cudaMemcpy(A_d, A_h, len*sizeof(float), cudaMemcpyHostToDevice)); 
    cudaCheck(cudaMemcpy(B_d, B_h, len*sizeof(float), cudaMemcpyHostToDevice)); 

    cublasHandle_t cb_handle; 
    cublasCheck(cublasCreate(&cb_handle)); 
    cublasSetPointerMode(cb_handle, CUBLAS_POINTER_MODE_DEVICE); 
    matrixMult(CUBLAS_OP_N, CUBLAS_OP_N, D, D, D, 1.0, B_d, A_d, 0.0, C_d, &cb_handle); 
    cublasDestroy(cb_handle); 

    cudaCheck(cudaMemcpy(C_h, C_d, len*sizeof(float), cudaMemcpyDeviceToHost)); 
    cudaCheck(cudaFree(A_d)); 
    cudaCheck(cudaFree(B_d)); 
    cudaCheck(cudaFree(C_d)); 

    free(A_h); 
    free(B_h); 
    free(C_h); 
} 

void matrixMult(cublasOperation_t transA, cublasOperation_t transB, int M, int N, 
      int K, float alpha, float *A, float *B, float beta, float *C, 
      cublasHandle_t *cb_handle){ 
    int lda = (transA == CUBLAS_OP_N) ? K : M; 
    int ldb = (transB == CUBLAS_OP_N) ? N : K; 
    int ldc = N; 
    cublasCheck(cublasSgemm(*cb_handle, transB, transA, N, M, K, &alpha, B, ldb, A, lda, &beta, C, ldc)); 
} 

用下面的瑣碎錯誤捕獲頭： -

#ifndef CUDA_ERROR_CHECK 
#define CUDA_ERROR_CHECK 

#include <cuda_runtime.h> 
#include "cublas_v2.h" 

#define cudaCheck(ans){cuda_assert((ans), __FILE__, __LINE__);} 
#define cublasCheck(ans){cublas_assert((ans), __FILE__, __LINE__);} 

inline void cuda_assert(cudaError_t code, const char *file, int line){ 
    if(code != cudaSuccess){ 
     fprintf(stderr,"CUDA Error: %s %s %d\n", cudaGetErrorString(code), file, line); 
     exit(code); 
    } 
} 

inline void cublas_assert(cublasStatus_t code, const char *file, int line){ 
    if(code != CUBLAS_STATUS_SUCCESS){ 
     fprintf(stderr, "CUBLAS Error! %s line: %d error code: %d\n", file, line, code); 
     exit(code); 
    } 
} 

#endif 

注意的是，上述誤差輸出通過上述方陣示例得到。我的張量產品應用產生類似的輸出。

我正在使用CUDA 7.5和泰坦黑卡。我正在做一些根本性錯誤，或者可能是我的cuBLAS安裝問題？

Answer 1

如果你消除這個：

cublasSetPointerMode(cb_handle, CUBLAS_POINTER_MODE_DEVICE); 

你的代碼將運行沒有錯誤。目前尚不清楚爲什麼您將指針模式設置爲CUBLAS_POINTER_MODE_DEVICE。所述documentation表示：

有兩個類別的功能的使用標量參數：

• 函數採取α和/或β參數由主機或設備上引用作爲縮放因子，如gemm

• 在主機或設備上返回標量結果的函數，如amax（），amin，asum（），rotg（），rotmg（），dot（）和nrm2（）。

對於第一類的功能，當指針模式設置爲CUBLAS_POINTER_MODE_HOST，標量參數α和/或β可以是在堆棧上或在堆上分配。

的CUBLAS_POINTER_MODE_HOST是默認設置，這是正確的設置你的情況，其中&alpha和&beta是指向主機內存：

cublasCheck(cublasSgemm(*cb_handle, transB, transA, N, M, K, &alpha, B, ldb, A, lda, &beta, C, ldc));