如何正确地将参数作为结构传递给NVRTC?

时间:2016-11-04 13:19:38

标签: struct f# cuda nvrtc

let prog =
    """//Kernel code:
extern "C" {
    #pragma pack(1)
    typedef struct {
        int length;
        float *pointer;
    } global_array_float;
    __global__ void kernel_main(global_array_float x){
        printf("(on device) x.length=%d\n",x.length); // prints: (on device) x.length=10
        printf("(on device) x.pointer=%lld\n",x.pointer); // prints: (on device) x.pointer=0
        printf("sizeof(global_array_float)=%d", sizeof(global_array_float)); // 12 bytes just as expected
    }
;}"""

printfn "%s" prog
let cuda_kernel = compile_kernel prog "kernel_main"

let test_launcher(str: CudaStream, kernel: CudaKernel, x: CudaGlobalArray<float32>, o: CudaGlobalArray<float32>) =
    let block_size = 1 

    kernel.GridDimensions <- dim3(1)
    kernel.BlockDimensions <- dim3(block_size)
    printfn "(on host) x.length=%i"  x.length // prints: (on host) x.length=10
    printfn "(on host) x.pointer=%i" x.pointer // prints: (on host) x.pointer=21535919104
    let args: obj [] = [|x.length;x.pointer|]
    kernel.RunAsync(str.Stream, args)

let cols, rows = 10, 1
let a = d2M.create((rows,cols)) 
        |> fun x -> fillRandomUniformMatrix ctx.Str x 1.0f 0.0f; x 
let a' = d2MtoCudaArray a

//printfn "%A" (getd2M a)

let o = d2M.create((rows,cols)) // o does nothing here as this is a minimalist example.
let o' = d2MtoCudaArray o

test_launcher(ctx.Str,cuda_kernel,a',o')
cuda_context.Synchronize()

//printfn "%A" (getd2M o)

以下是我目前正在处理的main repo的摘录。我非常接近Cuda C编译器的F#引用,但我无法弄清楚如何从主机端正确地将参数传递给函数。

尽管有pragma包,但NVRTC 7.5 Cuda编译器正在进行其他一些优化,我不知道它是什么。

因为我正在处理F#语录,所以我需要将参数作为单个结构传递给它。如果我将函数从kernel_main(global_array_float x)更改为类似kernel_main(int x_length, float *x_pointer)的函数,那么它可以工作,但我不是引用系统提前给我的形式,我想避免做额外的工作来使F#更多喜欢C。

知道我可以尝试什么吗?

1 个答案:

答案 0 :(得分:1)

我做了两个错误的假设。

第一个错误是假设let args: obj [] = [|x.length;x.pointer|]整齐地放在堆栈旁边。实际上,这些是两个不同的参数,第二个在传递的时候会丢失,如上所述。

可以通过创建自定义结构类型并重写表达式来修复它:let args: obj [] = [|CudaLocalArray(x.length,x.pointer)|]

我在上面重写时发现的另一个错误假设是,使用[<StructLayout(LayoutKind.Sequential>]并不意味着字段将被打包在一起。相反,对于C来说,pack是一个参数,因此它需要像这样使用:[<StructLayout(LayoutKind.Sequential,Pack=1)>]