Question

在.cu文件中，我在全局范围内尝试了以下内容（即不在函数中）：

__device__ static const double cdInf = HUGE_VAL / 4;

得到了nvcc错误：

error : dynamic initialization is not supported for __device__, __constant__ and __shared__ variables.

如果可能，如何在设备上定义C ++ const / constexpr？

注1：#define不仅仅是出于审美原因，而且因为在实践中表达式更复杂并且涉及内部数据类型，而不仅仅是双重。因此，每次在每个CUDA线程中调用构造函数都会太昂贵。

注意2：我怀疑__constant__的性能，因为它不是编译时常量，而是用cudaMemcpyToSymbol编写的变量。

Answer 1

使用constexpr __device__功能：

#include <stdio.h>
__device__ constexpr double cdInf() { return HUGE_VAL / 4; }
__global__ void print_cdinf() { printf("in kernel, cdInf() is %lf\n", cdInf()); }
int main() { print_cdinf<<<1, 1>>>(); return 0; }

PTX应该是这样的：

.visible .entry print_cdinf()(

)
{
        .reg .b64       %SP;
        .reg .b64       %SPL;
        .reg .b32       %r<2>;
        .reg .b64       %rd<7>;


        mov.u64         %rd6, __local_depot0;
        cvta.local.u64  %SP, %rd6;
        add.u64         %rd1, %SP, 0;
        cvta.to.local.u64       %rd2, %rd1;
        mov.u64         %rd3, 9218868437227405312;
        st.local.u64    [%rd2], %rd3;
        mov.u64         %rd4, $str;
        cvta.global.u64         %rd5, %rd4;
        // Callseq Start 0
        {
        .reg .b32 temp_param_reg;
        // <end>}
        .param .b64 param0;
        st.param.b64    [param0+0], %rd5;
        .param .b64 param1;
        st.param.b64    [param1+0], %rd1;
        .param .b32 retval0;
        call.uni (retval0), 
        vprintf, 
        (
        param0, 
        param1
        );
        ld.param.b32    %r1, [retval0+0];

        //{
        }// Callseq End 0
        ret;
}

没有constexpr功能的代码。您也可以使用constexpr __host__函数，但这在CUDA 7中是实验性的：使用nvcc命令行选项似乎是--expt-relaxed-constexpr并查看here以获取更多详细信息（感谢@harrism）。

Answer 2

要使您显示的代码按预期编译和工作，您需要在运行时初始化变量，而不是编译时。为此，请向cudaMemcpyToSymbol添加主持人呼叫，例如：

__device__ double cdInf;

// ...

double val = HUGE_VAL / 4
cudaMemcpyToSymbol(cdInf, &val, sizeof(double));

但是，对于单个值，将其作为内核参数传递似乎更为明智。编译器将自动将参数存储在所有支持的体系结构的常量内存中，并且存在“自由”常量缓存广播机制，这应该使运行时访问该值的成本可以忽略不计。

Answer 3

要初始化它，您必须使用cudaMemcpyToSymbol。它不是编译时常量，而是存储在器件的常量存储器中，并且与全局存储器相比具有一些优势。来自CUDA blogspot：

对于半warp的所有线程，从常量缓存读取为只要所有线程读取相同，就可以快速读取寄存器地址。半经线内的线程访问不同的地址是序列化的，因此成本与不同的数量呈线性关系半经线内所有线程读取的地址。

您无需使用const，也无法使用它。它不是c ++常量，因为您需要通过cudaMemcpyToSymbol对其进行修改。所以它不是真正的＆＃34;至少从c ++的角度来看是不变的。但它在设备内核中的行为类似于常量，因为您只能通过cudaMemcpyToSymbol修改它，该var tags = val.tags; tags.join(" "); // this will convert array to string.只能从主机调用。

如何像C ++ const / constexpr一样定义CUDA设备常量？

3 个答案: