Question

我在执行内核时遇到错误

too many resources requested for launch

我在网上查看了有关错误消息的任何提示，这表明这是因为使用了多个寄存器而不是GPU为每个多处理器指定的限制。设备查询结果如下：

Device 0: "GeForce GTX 470"
CUDA Driver Version / Runtime Version          5.0 / 5.0
CUDA Capability Major/Minor version number:    2.0
Total amount of global memory:                 1279 MBytes (1341325312 bytes)
(14) Multiprocessors x ( 32) CUDA Cores/MP:    448 CUDA Cores
GPU Clock rate:                                1215 MHz (1.22 GHz)
Memory Clock rate:                             1674 Mhz
Memory Bus Width:                              320-bit
L2 Cache Size:                                 655360 bytes
Total amount of constant memory:               65536 bytes
Total amount of shared memory per block:       49152 bytes
Total number of registers available per block: 32768
Warp size:                                     32
Maximum number of threads per multiprocessor:  1536
Maximum number of threads per block:           1024
Maximum sizes of each dimension of a block:    1024 x 1024 x 64
Maximum sizes of each dimension of a grid:     65535 x 65535 x 65535

更新 Robert Crovella评论说他在运行代码时没有任何问题，所以我在这里粘贴完整的代码片段以便执行。

完整代码如下所示：

__global__ void calc_params(double *d_result_array, int total_threads) {

        int thread_id             = threadIdx.x + (blockDim.x * threadIdx.y);
        d_result_array[thread_id] = 1 / d_result_array[thread_id];

 }

  void calculate() {

     double *h_array;
     double *d_array;

     size_t array_size = pow((double)31, 2) * 2 * 10;

     h_array = (double *)malloc(array_size * sizeof(double));
     cudaMalloc((void **)&d_array, array_size * sizeof(double));

     for (int i = 0; i < array_size; i++) {
        h_array[i] = i;
     }

     cudaMemcpy(d_array, h_array, array_size * sizeof(double), cudaMemcpyHostToDevice);

     int BLOCK_SIZE = 1024;
     int NUM_OF_BLOCKS = (array_size / BLOCK_SIZE) + (array_size % BLOCK_SIZE)?1:0;

     calc_params<<<NUM_OF_BLOCKS, BLOCK_SIZE>>>(d_array, array_size);
     cudaDeviceSynchronize();
     checkCudaErrors(cudaGetLastError());

     cudaFree(d_array);
     free(h_array);

}

当我执行此代码时，我收到的错误是，启动请求的资源太多

而不是在内核中使用逆语句（即d_result_array [thread_id] = 1 / d_result_array [thread_id]）
等同陈述完美地发挥作用（即d_result_array [thread_id] = d_result_array [thread_id] * 200）。

为什么呢？有没有可能的替代方案（除了使用较小的块大小）。如果这是唯一的解决方案，我怎么知道可以工作的块大小应该是什么。

此致

P.S。对于那些可能想知道什么是cudaCheckErrors的人

#define checkCudaErrors(val) check( (val), #val, __FILE__, __LINE__)

template<typename T>
void check(T err, const char* const func, const char* const file, const int line) {
  if (err != cudaSuccess) {
    std::cerr << "CUDA error at: " << file << ":" << line << std::endl;
    std::cerr << cudaGetErrorString(err) << " " << func << std::endl;
    exit(1);
  }
}

构建和操作系统信息

Build of configuration Debug for project TEST

make all 
Building file: ../test_param.cu
Invoking: NVCC Compiler
nvcc -G -g -O0 -gencode arch=compute_20,code=sm_20 -odir "" -M -o "test_param.d" "../test_param.cu"
nvcc --compile -G -O0 -g -gencode arch=compute_20,code=compute_20 -gencode arch=compute_20,code=sm_20  -x cu -o  "test_param.o" "../test_param.cu"
Finished building: ../test_param.cu

Building target: TEST
Invoking: NVCC Linker
nvcc  -link -o  "TEST"  ./test_param.o   
Finished building target: TEST

操作系统

Ubuntu Lucid (10.04.4) 64bit
Linux paris 2.6.32-46-generic #105-Ubuntu SMP Fri Mar 1 00:04:17 UTC 2013 x86_64 GNU/Linux

我收到错误

CUDA error at: ../test_param.cu:42
too many resources requested for launch cudaGetLastError()

Answer 1

这似乎是编译器的工件。问题似乎是寄存器用法，您可以通过在nvcc命令行上传递-Xptxas -v选项来观察。由于某种原因，代码的-G版本比常规代码使用更多的寄存器（每个线程）。您有几个选择：

请勿使用-G开关。此开关应仅用于调试目的，因为它生成的代码可能比没有-G开关时运行得慢。
如果要使用-G开关，则减少每个块的线程数。对于这种情况下的示例，我能够以每块或更少的768个线程运行它。
指示编译器每个线程使用更少的寄存器。您可以使用-maxrregcount开关执行此操作，例如：
```
nvcc -Xptxas -v -arch=sm_20 -G -maxrregcount=20 -o t145 t145.cu
```

最后一种情况的目标是使每个块的（每个线程的寄存器数*每个块的线程数）小于正在使用的GPU的每个块的最大寄存器数。典型的CC 2.0 GPU每个块最多可使用32768个寄存器（您可以使用deviceQuery sample发现这些寄存器。）

CUDA双精度和每个线程的寄存器数量

1 个答案: