Question

我正在开发一个使用模板的CUDA程序。内核将使用数据类型cuComplex或cuDoubleComplex进行实例化。根据实例化内核的数据类型，我需要声明一个驻留在CUDA设备的常量内存空间中的常量。为了实现这一点，我已经完成了：

// declared this globally
template <typename T> 
__device__ __constant__ T some_constant;
// set the constant through a function call in main().

// kernel templated
template <typename T>    
__global__ void kernel()
{
    T b_k = cuGet<T>(0.0, 0.0);
    T x_k_1 = cuGet<T>(2.0, 2.0); 
    // cuGet returns a complex no. of type 
    // cuComplex or cuDoubleComplex depending on T.

    b_k = cuAdd(b_k, cuMul(some_constant, x_k_1));
    // cuAdd, cuMul, cuGet are all overloaded functions.
    // They can take cuComplex, or cuDoubleComplex params.

    // Here, some_constant has to cuComplex or cuDoubleComplex, depending 
    // on the datatype of the other arg x_k_1 to cuMul.
    // Therefore, I went about implementing a templated constant.
}

在编译时，这会产生错误：“some_constant”不是函数或静态数据成员。

解决此问题的一个选项可能是定义从cuDoubleComplex到cuComplex的类型转换，并将常量声明为cuDoubleComplex，而不是将其用作模板，在内核中使用它的任何地方都可以进行类型转换。

除此之外还有其他方法吗？

提前致谢。

Answer 1

如果主要请求是为了避免类型转换，您可以使用带有内联设备功能的模板类来解决它（其余部分来自@RobertCrovella在评论中提出的建议）。最后，一个宏将进行调用（它确实不是一个非常干净的设计，但保持相同的语法）。以下是它如何工作的示例：

template <typename T> 
struct holder
{
    static __device__ __inline__ T value () ;
    static __device__ __inline__ void init (T val) ;
} ;

__constant__ char data [16] ;

__device__ __inline__ int holder<int>::value () { return *((int*)data); }
__device__ __inline__ long holder<long>::value () { return *((long*)data); }

#define some_constant holder<T>::value()

template <typename T>
__global__ void kernel(T* res)
{
    *res = some_constant ;
}

int main ()
{
    int *dres ;
    cudaMalloc <> (&dres, sizeof(int)) ;
    int val = 42 ;
    cudaMemcpyToSymbol (data, &val, sizeof(int)) ;

    kernel<int><<<1,1>>>(dres) ;
    int hres ;
    cudaMemcpy (&hres, dres, sizeof(int), cudaMemcpyDeviceToHost) ;
    printf ("RES = %d\n", hres) ;
}

holder<T>::value()调用将被内联，类型转换被优化器删除，并从常量内存中返回相应的类型而不进行转换（这里是生成的ptx）：

// .globl   _Z6kernelIiEvPT_
.const .align 4 .b8 data[16];

.visible .entry _Z6kernelIiEvPT_(
    .param .u32 _Z6kernelIiEvPT__param_0
)
{
    .reg .b32   %r<4>;


    ld.param.u32    %r1, [_Z6kernelIiEvPT__param_0];
    cvta.to.global.u32  %r2, %r1;
    ld.const.u32    %r3, [data];
    st.global.u32   [%r2], %r3;
    ret;
}

主要缺点是希望类型为T的宏。

Cuda：将设备常量声明为模板

1 个答案: