nvcc编译器没有优化

Question

为什么编译器没有做一些可以在内核中完成的简单优化？我有以下代码用于矩阵乘法：

__global__ void matrixMultiply(float * A, float * B, float * C,
        int numARows, int numAColumns,
        int numBRows, int numBColumns,
        int numCRows, int numCColumns) {

    int n=numAColumns;
    int Row=blockIdx.x*blockDim.x+threadIdx.x;
    int Col=blockIdx.y*blockDim.y+threadIdx.y;
    if((Row<numCRows) && (Col<numCColumns)){
        for(int k=0;k<n;++k){
                    C[Row*numCColumns+Col]+=
                        A[Row*numAColumns+k]*B[k*numBColumns+Col];
        }
    }   
}

如果我使用时间寄存器Cvalue来存储总和，那么示例会更快：

__global__ void matrixMultiply(float * A, float * B, float * C,
        int numARows, int numAColumns,
        int numBRows, int numBColumns,
        int numCRows, int numCColumns) {

    int n=numAColumns;
    int Row=blockIdx.x*blockDim.x+threadIdx.x;
    int Col=blockIdx.y*blockDim.y+threadIdx.y;
    if((Row<numCRows) && (Col<numCColumns)){
        float Cvalue=0;
        for(int k=0;k<n;++k){
            Cvalue+=A[Row*numAColumns+k]*B[k*numBColumns+Col];
        }
        C[Row*numCColumns+Col]=Cvalue;
    }   
}

在最后一种情况下，C的全局内存只能被访问一次，而在第一种情况下，它在循环中被多次访问。这种优化通常不是由编译器完成的吗？在我的测试中，两个代码的性能差异约为30％，我正在做nvcc -O3 ......

Answer 1

由于C未声明为__restrict__，编译器无法知道C是否与A或B相同，因此无法执行优化提到。当我改为使用float* __restrict__ C时，两者的时间几乎相同。谢谢Chris Dodd。