的OpenMP：檢查嵌套parallesim

Question

假設我有一個乘以2 std::vector的方法：

double multiply(std::vector<double> const& a, std::vector<double> const& b){ 
    double tmp(0); 
    /*here I could easily do a parallelization with*/ 
    /*#pragma omp parallel loop for*/ 
    for(unsigned int i=0;i<a.size();i++){ 
     tmp += a[i]*b[i]; 
    } 
    return tmp; 
} 

如果我在此功能設置的編譯宏，以multiply(...)通話將運行在所有線程 。

現在假設somewehere事我想做很多矢量乘法：

void many_multiplication(std::vector<double>* a, std::vector<double>* b, unsigned int N){ 
    /*here I could easily do a parallelization with*/ 
    /*#pragma omp parallel loop for*/ 
    for(unsigned int i=0;i<N;i++){ 
     for(unsigned int j=0;j<N;j++){ 
      multiply(a[i],b[j]); 
     } 
    } 
} 

我還可以做並行的方式相同。但是這會導致 不需要的嵌套並行。

如何檢查，如果multiply(..)是並行區域內調用， 那麼pragma宏multiply(...)是「關閉」。如果它從非平行區域被稱爲 ，那麼它是「開啓」的。

Answer 1

嵌套並行是禁用默認情況下，除非啓用特別是通過設置OMP_NESTED到true或致電omp_set_nested(1);（OpenMP specification的§2.3.2）明確修改Avi Ginsburg建議的嵌套設置是一個壞主意。相反，你應該使用基於嵌套層次有條件的並行執行：

double multiply(std::vector<double> const& a, std::vector<double> const& b){ 
    double tmp(0); 
    int active_levels = omp_get_active_level(); 
    #pragma omp parallel for reduction(+:tmp) if(active_level < 1) 
    for(unsigned int i=0;i<a.size();i++){ 
     tmp += a[i]+b[i]; 
    } 
    return tmp; 
} 

omp_get_active_level()返回在調用時的瞬間包圍線程活動並行區域的數量。如果從並行區域外部調用或外部區域不活動，它將返回0。由於條款if(active_level < 1)，平行區域只會被激活，即並行運行，如果沒有包含在活動區域​​中，則不管嵌套設置如何。

如果編譯器不支持的OpenMP 3.0或更高（例如，與任何版本的MS的Visual C/C++編譯器），然後omp_in_parallel()呼叫可以用來代替：

double multiply(std::vector<double> const& a, std::vector<double> const& b){ 
    double tmp(0); 
    int in_parallel = omp_in_parallel(); 
    #pragma omp parallel for reduction(+:tmp) if(in_parallel == 0) 
    for(unsigned int i=0;i<a.size();i++){ 
     tmp += a[i]+b[i]; 
    } 
    return tmp; 
} 

omp_in_parallel()返回非零值，如果在至少一個封閉平行區域是活動的，但不提供關於嵌套深度的信息，即不太靈活。

在任何情況下，編寫這樣的代碼都是不好的做法。您應該簡單地保留並行區域，並允許最終用戶選擇是否啓用嵌套並行。

Answer 2

將編譯指示添加到兩個函數中。您可以使用omp_set_nested(int val)打開和關閉nested parallelism（零關閉，非零打開）。

所以，如果你想在你的一般程序嵌套並行，但關閉的many_multiplication功能，您將實現many_multiplication如下：

void many_multiplication(std::vector<double>* a, std::vector<double>* b, unsigned int N){ 
    omp_set_nested(0); 
    #pragma omp parallel loop for 
    for(unsigned int i=0;i<N;i++){ 
     for(unsigned int j=0;j<N;j++){ 
      multiply(a[i],b[j]); 
     } 
    } 
    omp_set_nested(1); 
}