其他考虑因素：

Question

为了使用CUDA练习编码，我做了一个小测试场景，我有三个文件：

memory.c保留纯C代码
memory_kernels.h CUDA内核声明和启动内核的函数
memory_kernels.cu内核的定义

程序应该做的是在主机上创建一个整数数组，将其复制到设备并查询元素。内核将打印出一些细节。

但是，我收到错误：

Error in memory_kernels.cu at line 43 with error code "unspecified launch failure"

这三个文件的源代码如下：

/** 
 * memory.c
 *
 * Test copying large arrays to device
 * and printing from kernel
 */

/* Include standard libraries */
#include <stdlib.h>
#include <stdio.h>

/* Include local header files */
#include "memory_kernels.h"

int main() {

  /* Size of array */
  int i, N = 1024;

  /* Array */
  int *intArr = (int *) malloc( N * sizeof(int) );

  /* Fill array */
  for( i = 0; i < N; i++ ) {
    intArr[i] = i;
  }

  /* Run CUDA code */
  cuda_mem( &intArr );

  /* Clean up device */
  cudaDeviceReset();

  /* Everything done */
  exit(EXIT_SUCCESS);
}

/** 
 * memory_kernels.h
 *
 * Declarations for CUDA kernels
 */

/* Determine compiler */
#ifdef __cplusplus
#define EXTCFUNC extern "C"
#else
#define EXTCFUNC extern
#endif

#ifndef KERNELS_H
#define KERNELS_H

/* Standard libraries (only needed for debugging) */
#include <stdio.h>

/* Include CUDA header files */
#include <cuda.h>
#include <cuda_runtime.h>

#define CUDA_CALL(x) do { if((x) != cudaSuccess) {                                                         \
  printf("Error in %s at line %d with error code \"%s\"\n",__FILE__,__LINE__,cudaGetErrorString(x));       \
  exit(x);}} while(0)

/* Device globals */
__device__ int *d_intArr;

/* Device kernels */
__global__ void mem();

/* Host access functions */
EXTCFUNC void cuda_mem( int **intArr );

#endif

/** 
 * memory_kernels.cu
 *
 * CUDA kernel implementations
 */

/* Include header file */
#include "memory_kernels.h"

__global__ void mem() {
  int i = threadIdx.x;
  int a = d_intArr[i];

  printf("i = %d    a = %d\n",i,a);
}

/* Determine compiler */
#ifdef __cplusplus
#define EXTCFUNC extern "C"
#else
#define EXTCFUNC extern
#endif

/** 
 * cuda_mem()
 *
 * Test copying large array to device 
 * and printing from kernel
 */
EXTCFUNC void cuda_mem( int **intArr ) {
  /* Local variables */
  int N = 1024;

  /* Initialise device variables */
  CUDA_CALL( cudaMalloc( (void **) &d_intArr, sizeof(int) * N ) );

  /* Copy to device initial values */
  CUDA_CALL( cudaMemcpy( d_intArr, *intArr, sizeof(int) * N, cudaMemcpyHostToDevice ) );

  /* Run kernel */
  mem <<< 1,N >>> ();
  CUDA_CALL( cudaPeekAtLastError() );
  CUDA_CALL( cudaDeviceSynchronize() );

  /* Free local scoped dynamically allocated memory */
  CUDA_CALL( cudaFree( d_intArr ) );
}

使用以下命令进行编译：

nvcc -c -o memory.o memory.c -arch=sm_20
nvcc -c -o memory_kernels.o memory_kernels.cu -arch=sm_20
nvcc -o memory memory.o memory_kernels.o -arch=sm_20

使用CUDA 4.0在NVIDIA Tesla M2050上运行。在内核中使用printf()需要计算能力2.0。

在搜索了解决方案后，错误代码表明在从全局内存中读取时，内核中存在分段错误。但是，我启动的数量与数组的大小相同。

经过实验，我感觉在将intArr复制到设备时会导致错误。也许我的指针混乱了？

我理解文件结构是否有点奇怪，但它是一个较大程序的一部分，但我已将错误减少到这个较小的情况。

Answer 1

引发错误的原因是内核无法直接读取/写入全局数组。正确的方法是将全局数组的指针作为参数传递给内核。

声明并将内核定义为：

__global__ void mem(int *dArr);

__global__ void mem(int *dArr) 
{
  int i = threadIdx.x;
  int a = dArr[i];

  printf("i = %d    a = %d\n",i,a);
}

将内核称为：

mem <<< 1,N >>> (d_intArr);

上面提到的解决了我的问题，程序运行得很好。

其他考虑因素：

您不能在主机代码中直接使用使用__device__修饰符声明的变量。当我使用CUDA 5编译代码时，我收到警告

警告：无法直接读取设备变量“d_intArr” 主持人功能

以下函数调用生成警告：

CUDA_CALL( cudaMemcpy( d_intArr, *intArr, sizeof(int) * N, cudaMemcpyHostToDevice ) );

要保持全局效果，可以将指针作为参数传递给函数，而不是声明全局数组。

Answer 2

我想扩展@ sgar91提供的答案，以提供一些额外的观点（我自己的）。我认为至少有两种方法可以在全局内存中实例化可从主机和设备访问的数组。

一个。使用在主机端创建的动态定位/分配的阵列。代码序列大致如下：

int main(){
  int *arr, *d_arr;
  arr = (int *)malloc(N*sizeof(int));
  cudaMalloc((void **) &d_arr, N*sizeof(int));
  cudaMemcpy(d_arr, arr, N*sizeof(int), cudaMemcpyHostToDevice);
  ...
  }

湾使用静态定位（也许是分配）数组。代码序列大致如下：

__device__ int d_arr[N];
...
int main(){
  int *arr;
  arr = (int *)malloc(N*sizeof(int));
  cudaMemcpyToSymbol(d_arr, arr, N*sizeof(int));
  ...
  }

使用第一种方法，我必须将d_arr的地址作为参数传递给内核。使用第二种方法我不需要这样做，因为数组是静态定位的，因此编译器和运行时能够找到它并在加载时正确修复代码。使用第二种方法，我可以直接从内核访问d_arr，即使我没有将它作为参数传递给内核。

请注意，使用第二种方法可以有一个动态大小（但静态定位）的数组，但为了简洁起见，我没有在这里说明。

sgar91提供的答案并不完全符合这两种方法中的任何一种，因此例如在主机代码中使用设备地址仍然存在警告（即使它似乎有用）。

CUDA错误 - 未指定的启动失败

2 个答案:

其他考虑因素：