理解openmp中的collapse子句

时间:2015-02-12 16:35:46

标签: c openmp

我遇到了一个具有崩溃条款的OpenMP代码,这对我来说是新的。我试图理解这意味着什么,但我认为我没有完全理解它的含义;我找到的一个定义是:

  

COLLAPSE:指定嵌套循环中应将多少循环折叠到一个大的迭代空间中,并根据schedule子句进行划分。在所有关联循环中顺序执行迭代确定了折叠迭代空间中迭代的顺序。

我以为我理解了这意味着什么,所以我尝试了以下简单程序:

int i, j;
#pragma omp parallel for num_threads(2) private(j)
for (i = 0; i < 4; i++)
    for (j = 0; j <= i; j++)
        printf("%d %d %d\n", i, j, omp_get_thread_num());

哪个产生了

0 0 0
1 0 0
1 1 0
2 0 0
2 1 0
2 2 1
3 0 1
3 1 1
3 2 1
3 3 1

然后我添加了collapse(2)子句。我希望在前两列中得到相同的结果,但现在在最后一列中有相同数量的01。 但我得到了

0 0 0
1 0 0
2 0 1
3 0 1

所以我的问题是:

  1. 我的代码中发生了什么?
  2. 我应该在什么情况下使用collapse
  3. 您能举例说明使用collapse与不使用它之间的区别吗?

2 个答案:

答案 0 :(得分:29)

你的代码的问题是内部循环的迭代依赖于外部循环。根据关于绑定和collapse子句的部分描述中的OpenMP规范:

  

如果任何相关循环的执行改变了用于计算任何值的任何值   迭代计数,然后行为未指定。

如果不是这种情况,例如使用方形循环

,则可以使用折叠
#pragma omp parallel for private(j) collapse(2)
for (i = 0; i < 4; i++)
    for (j = 0; j < 100; j++)

事实上,这是一个很好的例子,可以显示何时使用折叠。外循环只有四次迭代。如果你有超过四个线程,那么一些将被浪费。但是当你崩溃时,线程将分布在400次迭代中,这可能比线程数大得多。使用折叠的另一个原因是负载分布不均匀。如果您只使用了四次迭代,并且第四次迭代占用了大部分时间,则其他线程会等待。但是如果你使用400次迭代,负载可能会更好地分配。

您可以手动融合上面的代码循环,如此

#pragma omp parallel for
for(int n=0; n<4*100; n++) {
    int i = n/100; int j=n%100;

Here是一个示例,显示如何手动融合三重融合循环。

最后,here是一个示例,展示了如何融合未定义collapse的三角形循环。


这是一个将矩形循环映射到OP问题中的三角形循环的解决方案。这可用于融合OP三角形环路。

//int n = 4;
for(int k=0; k<n*(n+1)/2; k++) {
    int i = k/(n+1), j = k%(n+1);
    if(j>i) i = n - i -1, j = n - j;
    printf("(%d,%d)\n", i,j);
}

这适用于任何n值。

OP问题的地图来自

(0,0),
(1,0), (1,1),
(2,0), (2,1), (2,2),
(3,0), (3,1), (3,2), (3,3),

(0,0), (3,3), (3,2), (3,1), (3,0),
(1,0), (1,1), (2,2), (2,1), (2,0),

对于n的奇数值,地图不完全是矩形,但公式仍然有效。

例如,n = 3从

映射
(0,0),
(1,0), (1,1),
(2,0), (2,1), (2,2),

(0,0), (2,2), (2,1), (2,0),
(1,0), (1,1),

以下是测试此内容的代码

#include <stdio.h>
int main(void) {
    int n = 4;
    for(int i=0; i<n; i++) {
        for(int j=0; j<=i; j++) {
            printf("(%d,%d)\n", i,j);
        }
    }
    puts("");
    for(int k=0; k<n*(n+1)/2; k++) {
        int i = k/(n+1), j = k%(n+1);
        if(j>i) i = n - i - 1, j = n - j;
        printf("(%d,%d)\n", i,j);
    }
}

答案 1 :(得分:0)

如果您的目的是平衡负载而不是增加的行,假设每个项目的工作负载是规则的或分散的,那么如何将行索引折成两半,并忘记collapse子句?

#pragma omp for
for (int iy0=0; iy0<n; ++iy0){
  int iy = iy0;
  if (iy0 >= n/2) iy = n-1 -iy0 +n/2;
  for (int ix=iy+1; ix<n; ++ix){
    work(ix, iy);
  }
}