Question

我使用的是CUDA 6.5 + VS2013 + GTX Titan黑色。我观察到当线程总数大于65536时，以下打印代码将崩溃。我googled了一下但没有看到任何有用的东西。有没有其他人观察到同样的行为？还是有人可以提供一些解释吗？非常感谢你！

__global__ void testKernel(int val)
{
    int X = blockDim.x * blockIdx.x + threadIdx.x;
    int Y = blockDim.y * blockIdx.y + threadIdx.y;
    printf("[%d, %d]:\t" "\tValue is:%d\n", X, Y, val);
}

void main(){

    dim3 block(16,16);
    dim3 grid(16,16);
    testKernel << <grid, block >> >(10);
    cudaDeviceSynchronize();
    cudaGetLastError();

    cudaDeviceReset();
}

当我使用块（32,16）和网格（16,16）时，我收到以下错误消息：

Gpu API调用（启动超时并终止）...

Answer 1

您的内核执行时间太长：

the launch timed out and was terminated

这是a limitation of the windows operating system, when running on WDDM devices。

有多种可行的解决方法。有些是：

减少内核执行时间
如果可能，将GPU切换到TCC模式（GeForce GPU不可用）。
通过Windows注册表修改

此外，内核内printf功能有significant limits。由于各种原因，它实际上不是为大规模输出而设计的。其中一个特别是该活动的缓冲区是有限的，当溢出时，先前的缓冲区数据将丢失（即不打印出来）。

Answer 2

感谢Robert的回答，我意识到问题可能是由于缓冲区的大小。我使用以下代码来确定默认情况下打印缓冲区的大小是1048576字节（1M）

size_t sz;
cudaDeviceGetLimit(&sz, cudaLimitPrintfFifoSize);
std::cout << sz << std::endl;

当我使用以下代码将缓冲区大小增加到100 Mb时，错误消失，我有所有预期的输出，总计131072行！（我使用块（32,16）; ..网格（16,16）; ...）

sz = 1048576 * 100;
cudaDeviceSetLimit(cudaLimitPrintfFifoSize, sz);

不知何故，打印缓冲区溢出导致响应时间比平常更长，并触发TDR。当我相应地增加缓冲区大小时，代码会在超时之前完成。更重要的是，足够的缓冲区大小可确保不会丢失数据。

但是，我认为缓冲区大小和执行时间的上限取决于设备。它适用于Titan Black并不一定意味着它也适用于其他NVidia卡。同样，我同意Robert的观点，使用printf从CUDA内核导出大量数据在实践中是不可靠的。我只是用它来转储一些信息来调试内核。

启动大量线程和块时，CUDA printf（）崩溃

2 个答案: