Question

当我尝试使用函数指针调用CUDA内核（__global__函数）时，一切似乎都正常工作。但是，如果我在调用内核时忘记提供启动配置，NVCC不会导致错误或警告，但是如果我尝试运行它，程序将编译然后崩溃。

__global__ void bar(float x) { printf("foo: %f\n", x); }

typedef void(*FuncPtr)(float);

void invoker(FuncPtr func)
{
    func<<<1, 1>>>(1.0);
}

invoker(bar);
cudaDeviceSynchronize();

编译并运行上面的内容。一切都会好起来的。然后，删除内核的启动配置（即＆lt;＆lt;＆lt;＆lt;＆n;＆gt;＆gt;＆gt;＆gt;）。代码编译得很好，但是当你试图运行它时会崩溃。

知道发生了什么事吗？这是一个错误，还是我不应该传递__global__函数的指针？

CUDA版本：8.0

操作系统版本：Debian（测试回购） GPU：NVIDIA GeForce 750M

Answer 1

如果我们采用稍微复杂的repro版本，并查看CUDa工具链前端发出的代码，就可以看到发生了什么：

#include <cstdio>

__global__ void bar_func(float x) { printf("foo: %f\n", x); }
typedef void(*FuncPtr)(float);

void invoker(FuncPtr passed_func)
{
#ifdef NVCC_FAILS_HERE
    bar_func(1.0);
#endif
    bar_func<<<1,1>>>(1.0);
    passed_func(1.0);
    passed_func<<<1,1>>>(2.0);
}

所以让我们用两种方式编译它：

$ nvcc -arch=sm_52 -c -DNVCC_FAILS_HERE invoker.cu 
invoker.cu(10): error: a __global__ function call must be configured

即。前端可以检测到bar_func是一个全局函数并需要启动参数。另一种尝试：

$ nvcc -arch=sm_52 -c -keep invoker.cu

如您所知，这不会产生编译错误。让我们来看看发生了什么：

void bar_func(float x) ;
# 5 "invoker.cu"
typedef void (*FuncPtr)(float);
# 7 "invoker.cu"
void invoker(FuncPtr passed_func)
# 8 "invoker.cu"
{
# 12 "invoker.cu"
(cudaConfigureCall(1, 1)) ? (void)0 : (bar_func)((1.0));
# 13 "invoker.cu"
passed_func((2.0));
# 14 "invoker.cu"
(cudaConfigureCall(1, 1)) ? (void)0 : passed_func((3.0));
# 15 "invoker.cu"
}

标准内核调用语法<<<>>>扩展为对cudaConfigureCall的内联调用，然后调用主机包装器函数。主机包装器具有启动内核所需的API内部：

void bar_func( float __cuda_0)
# 3 "invoker.cu"
{__device_stub__Z8bar_funcf( __cuda_0); }

void __device_stub__Z8bar_funcf(float __par0)
{
    if (cudaSetupArgument((void *)(char *)&__par0, sizeof(__par0), (size_t)0UL) != cudaSuccess) return;
    { volatile static char *__f __attribute__((unused)); __f = ((char *)((void ( *)(float))bar_func)); 
      (void)cudaLaunch(((char *)((void ( *)(float))bar_func)));
    };
}

因此存根只处理参数并通过cudaLaunch启动内核。它没有处理启动配置

崩溃的根本原因（实际上是一个未检测到的运行时API错误）是内核启动没有先前的配置。显然这是因为CUDA前端（和C ++）在编译时不能进行指针内省，并检测到你的函数指针是用于调用内核的存根函数。

我认为描述这一点的唯一方法是限制＆＃34;运行时API和编译器。我不会说你在做什么是错的，但我可能会使用驱动程序API并在这种情况下明确管理内核启动。

CUDA：忘记内核启动配置不会导致NVCC编译器警告或错误

1 个答案: