Question

这是CUDA架构上矩阵乘法的程序。当数组大小为30 x 30时，此代码工作正常，但当大小较大时，输出为0的系列。我在linux机器上托管CUDA使用标准的ec2实例。任何人都可以找出原因吗？

#include <stdio.h>
#define SIZE 30

__global__ void matrix_multiply(float *input1,float  *input2,float *output,int dimension){


    int input1_index = threadIdx.x / dimension * dimension;
    int input2_index =  threadIdx.x % dimension;
    int i=0;
    for( i =0; i <dimension; i++){
        output[threadIdx.x] += input1[input1_index + i] * input2[input2_index + i * dimension];
    }
}
int main(){
    int i,j,natural_number=1;
    float input1[SIZE][SIZE],input2[SIZE][SIZE],result[SIZE][SIZE]={0};
    float  *c_input1,*c_input2,*c_result;
    for(i=0;i<SIZE;i++){
        for(j=0;j<SIZE;j++){
            input1[i][j]=input2[i][j]=natural_number++;
        }
    }
    cudaMalloc((void**)&c_input1,sizeof(input1));
    cudaMalloc((void**)&c_input2,sizeof(input2));
    cudaMalloc((void**)&c_result,sizeof(result));
    cudaMemcpy(c_input1,input1,sizeof(input1),cudaMemcpyHostToDevice);
    cudaMemcpy(c_input2,input2,sizeof(input2),cudaMemcpyHostToDevice);
    cudaMemcpy(c_result,result,sizeof(result),cudaMemcpyHostToDevice);

    matrix_multiply<<<1,SIZE * SIZE>>>(c_input1,c_input2,c_result,SIZE);
    if(cudaGetLastError()!=cudaSuccess){
        printf("%s\n",cudaGetErrorString(cudaGetLastError()));
    }
    cudaMemcpy(result,c_result,sizeof(result),cudaMemcpyDeviceToHost);
    for(i=0;i<SIZE;i++){
        for(j=0;j<SIZE;j++){
            printf("%.2f ",result[i][j]);
        }
        printf("\n");
    }
    cudaFree(c_input1);
    cudaFree(c_input2);
    cudaFree(c_result); 
    return 0;
}

Answer 1

GPU上每个块最多可包含1024个线程。 30 x 30 = 900，所以应该没问题，但是40 x 40会导致内核启动失败（带回家的消息：总是检查错误！）。

您可能希望考虑以不同方式组织数据，例如SIZE个SIZE个线程块，然后将内核称为：

matrix_multiply<<<SIZE, SIZE>>>(c_input1,c_input2,c_result,SIZE);

（显然你需要修改内核代码中的数组索引，例如使用块索引作为行，使用线程索引作为列。）

Answer 2

您正在调用内核，其配置为1个网格，大小为30x30：

matrix_multiply<<<1, SIZE * SIZE>>>(c_input1,c_input2,c_result,SIZE);

没有足够的线程来处理更多。

阵列30 x 30的程序失败

2 个答案: