Question

我想在CUDA中添加两个2D数组。

当我使用索引方案时，程序运行正常：

#define COLUMNS 3
#define ROWS 2    
__global__ void add(int *a, int *b, int *c)
{
    int x = blockIdx.x;
    int y = blockIdx.y;
    int i = (COLUMNS*y) + x;
    c[i] = a[i] + b[i];
}    

int main()
{
    int a[ROWS][COLUMNS], b[ROWS][COLUMNS], c[ROWS][COLUMNS];
    int *dev_a, *dev_b, *dev_c;
    cudaMalloc((void **) &dev_a, ROWS*COLUMNS*sizeof(int));
    cudaMalloc((void **) &dev_b, ROWS*COLUMNS*sizeof(int));
    cudaMalloc((void **) &dev_c, ROWS*COLUMNS*sizeof(int));
    for (int y = 0; y < ROWS; y++) // Fill Arrays
        for (int x = 0; x < COLUMNS; x++)
        {
            a[y][x] = x;
            b[y][x] = y;
        }
    cudaMemcpy(dev_a, a, ROWS*COLUMNS*sizeof(int), cudaMemcpyHostToDevice);
    cudaMemcpy(dev_b, b, ROWS*COLUMNS*sizeof(int), cudaMemcpyHostToDevice);
    dim3 grid(COLUMNS,ROWS);
    add<<<grid,1>>>(dev_a, dev_b, dev_c);
    cudaMemcpy(c, dev_c, ROWS*COLUMNS*sizeof(int), cudaMemcpyDeviceToHost);
    return 0;
}

然而，当矩阵b表示为指针数组而不是上面的索引方案时，它不起作用：

int a[ROWS][COLUMNS], **b, c[ROWS][COLUMNS];
int *dev_a, *dev_b, *dev_c;
b = (int**)malloc(ROWS*sizeof(int*));
for (int i = 0; i < ROWS; i++)
b[i] = (int*) malloc(COLUMNS*sizeof(int));

为什么？

我在这里使用了示例：http://www.math.uaa.alaska.edu/~afkjm/cs448/handouts/cuda-firstprograms.pdf

Answer 1

尽管问题已经很久了，但我会尝试给每个来这里遇到相关问题的人一个提示。

我同意左撇子。没有malloc的编译时常量分配

int a[ROWS][COLUMNS], b[ROWS][COLUMNS], c[ROWS][COLUMNS];

最有可能为每个变量（a，b，c）分配一个内存块，其大小为ROWS * COLUMNS。可以在一个memcpy Operation中将该块复制到设备。

在指向指针大小写的指针中，每列都是单独分配的，因此我们不保证有一个连续的内存块可以使用单个memcpy复制到设备。

在给定的**b情况下，必须单独复制每个列的数据，以实现类比行为。

for (int o=0; o<ROWS; ++o)
{
  cudaMemcpy((dev_b+o*COLUMNS), b[o], COLUMNS*sizeof(int), cudaMemcpyHostToDevice);
}

尽管如此，我认为应该使用相同的方案来处理a和b，以避免在元素排序不同的情况下引起混淆。（虽然我声称将使用行主要订单存储a[ROWS][COLUMNS]变量。）

索引方案与CUDA中的指针数组

1 个答案: