Question

我在我的一个内核中使用动态并行（和cublas），并希望为sm_20提供一个回退内核。在maxentropy_cuda.cu中，我编写了两个内核并使用CUDA_ARCH仅为架构＆gt; = 3.5编译动态并行内核。这很好。

Makefile的一部分：

    nvcc $(NVCCFLAGS) -gencode arch=compute_35,code=sm_35 -gencode arch=compute_20,code=sm_20 $(CINCL) -M maxentropy_cuda.cu -o maxentropy_cuda.d 
    nvcc --device-c $(NVCCFLAGS) -gencode arch=compute_35,code=sm_35 -gencode arch=compute_20,code=sm_20 -x cu maxentropy_cuda.cu -o maxentropy_cuda.o

当我将其链接到另一个文件中的内核时：

    nvcc --cudart static --relocatable-device-code=true -link -gencode arch=compute_35,code=sm_35  -gencode arch=compute_20,code=sm_20 $(LIBPATHS) -o main main.o selgen.o maxentropy.o maxentropy_omp.o maxentropy_cuda.o maxentropy_kernels.o $(OBJINFRA) $(LIBS)  -lcublas_device  -lcudadevrt

我收到以下错误：

nvlink fatal   : could not find compatible device code in /opt/cuda/lib64/libcublas_device.a
make: *** [main] Error 255

当然我不需要libcublas_device作为fallback-kernel ...

有没有办法在一个二进制文件中同时获得两种计算功能？（我正在使用CUDA 5.5）

编辑：示例（尚未测试输出...）：

#include <stdio.h>
#include <cuda_runtime.h>
#include <cublas_v2.h>


__global__ void calc_dev(double* u, double* s, double* r) {
#if __CUDA_ARCH__<350
    printf("should not have been called - compiled for the wrong CUDA architecture");
#else

    cublasHandle_t cnpHandle;
    cublasStatus_t status = cublasCreate(&cnpHandle);

    if (status != CUBLAS_STATUS_SUCCESS)    {
        printf("error while initializing cublas\n");
        return;
    }

    status = cublasDdot(cnpHandle,5,u,1,s,1,r);
    cudaDeviceSynchronize();
    if (status != CUBLAS_STATUS_SUCCESS)        {
        printf("cublas error: u x s\n");
        return;
    }
#endif
}

void calc_host(double* u, double* s, double* r) {
    cublasHandle_t cnpHandle;
    cublasStatus_t status = cublasCreate(&cnpHandle);
    cublasSetPointerMode(cnpHandle, CUBLAS_POINTER_MODE_DEVICE);

    if (status != CUBLAS_STATUS_SUCCESS)    {
        printf("error while initializing cublas\n");
        return;
    }

    status = cublasDdot(cnpHandle,5,u,1,s,1,r);
    cudaThreadSynchronize();
    if (status != CUBLAS_STATUS_SUCCESS)        {
        printf("cublas error: u x s\n");
        return;
    }
}


int main(int argc, char** argv) {
    const int n = 5;

    double u[n] = {0,1,2,4,8};
    double s[n] = {1, 0.64570312500000004,
              0.44203125000000004, 0.65804687500000003, 0.71976562500000008};
    double r = 0.0;
    double *dev_s,*dev_u,*dev_r;
    cudaMalloc( (void**)&dev_s, sizeof(double)*n);
    cudaMalloc( (void**)&dev_u, sizeof(double)*n);
    cudaMalloc( (void**)&dev_r, sizeof(double));
    cudaMemcpy( dev_s, s, n*sizeof(double), cudaMemcpyHostToDevice);
    cudaMemcpy( dev_u, u, n*sizeof(double), cudaMemcpyHostToDevice);

    #if __CUDA_ARCH__>=350
        calc_dev<<<1,1>>>(dev_s,dev_u,dev_r);
    #else
        calc_host(dev_s,dev_u,dev_r);
    #endif

    cudaMemcpy( &r, dev_r, sizeof(double), cudaMemcpyDeviceToHost);
    printf("%.3f\n",r);
    return 0;
}

Nsight：

make all 
Building file: ../main.cu
Invoking: NVCC Compiler
/usr/local/cuda-5.5/bin/nvcc -G -g -O0 -gencode arch=compute_20,code=sm_20 -gencode arch=compute_35,code=sm_35 -odir "" -M -o "main.d" "../main.cu"
/usr/local/cuda-5.5/bin/nvcc --device-c -G -O0 -g -gencode arch=compute_20,code=sm_20 -gencode arch=compute_35,code=sm_35  -x cu -o  "main.o" "../main.cu"
Finished building: ../main.cu

Building target: test_sm_compatibility
Invoking: NVCC Linker
/usr/local/cuda-5.5/bin/nvcc --cudart static --relocatable-device-code=true -gencode arch=compute_20,code=sm_20 -gencode arch=compute_35,code=sm_35 -link -o  "test_sm_compatibility"  ./main.o   -lcublas -lcublas_device
nvlink fatal   : could not find compatible device code in /usr/local/cuda-5.5/bin/../targets/x86_64-linux/lib/libcublas_device.a
make: *** [test_sm_compatibility] Error 255

Answer 1

现在可以在CUDA 6.0中使用

您发布的示例使用您显示的编译命令按原样编译。

唯一的困难是有各种各样的nvlink警告必须被忽略：

nvlink warning : SM Arch ('sm_20') not found in '/usr/local/cuda/bin/..//lib64/libcublas_device.a'

但是正确构建了正确的可执行文件。

如何针对cublas_device编译/链接具有不同计算能力的代码？

1 个答案: