Question

我有一个包含多个成员的结构，我想通过GPU对成员的某些部分进行一些操作。为了使通信的大小尽可能小，我希望只复制那些已被修改的成员。 cuda能这样做吗？

struct nodeInfo;

typedef struct nodeInfo
{
  int x;
  int y;
}nodeProp;

int main(int argc, char* argv[]){
  int ngpus;
  CHECK(cudaGetDeviceCount(&ngpus));
  cudaStream_t stream[ngpus];

  nodeProp *Nodes;
  nodeProp *gpuNodes[ngpus];

  int rankSize = 10;
  int deviceSize = rankSize/ngpus;

  CHECK(cudaMallocHost((void**)&Nodes,rankSize*sizeof(nodeProp)));

  for(int i = 0; i < ngpus; i++)
    {
      cudaSetDevice(i);
      cudaStreamCreate(&stream[i]);
      CHECK(cudaMalloc((void**)&gpuNodes[i],deviceSize*sizeof(nodeProp)));
      CHECK(cudaMemcpyAsync(gpuNodes[i],Nodes+i*deviceSize,deviceSize*sizeof(nodeProp),cudaMemcpyHostToDevice,stream[i]));
    }

  for(int i = 0; i < ngpus; i++)
    {
      cudaSetDevice(i);
      kernel_x_Operation<<<grid_size,block_size,0,stream[i]>>>(gpuNodes[i]);//Some operation on gpuNodes.x

     //How to write the memcpy function? Can I just copy one member of the struct back?
      CHECK((void*)cudaMemcpyAsync((Nodes+i*deviceSize)->x, gpuNodes[i]->x), sizeof(int)*deviceSize,cudaMemcpyDeviceToHost,stream[i]));

      cudaDeviceSynchronize();
   }
}

Answer 1

不，你不能这样做。但是，您可以通过将数据作为阵列结构而不是结构数组来实现类似的功能。

请查看Structure of Arrays vs Array of Structures in cuda，了解这有何可能提高效果。

cudaMemcpyAsync只是从设备到主机的结构的一个成员

1 个答案: