CUDA - 如何让内核中的线程等待它的孩子

时间:2014-12-01 21:43:55

标签: sorting parallel-processing cuda dynamic-parallelism

我正在尝试使用CUDA递归(对于cm> 35)技术实现一个非常简单的合并排序,但我找不到一种方法来告诉父线程同时启动它的子进程然后等待它的子进程计算,因为cudaEventSynchronize()和cudaStreamSynchronize()只是主机。 __syncthread()不会归档所需的效果,因为父级的下一行只能在其子级完成所有计算后执行。

__global__ void simple_mergesort(int* data,int *dataAux,int begin,int end, int depth){
     int middle = (end+begin)/2;
     int i0 = begin;
     int i1 = middle;
     int index;
     int n = end-begin;

     cudaStream_t s,s1;

     //If we're too deep or there are few elements left, we use an insertion sort...
     if( depth >= MAX_DEPTH || end-begin <= INSERTION_SORT ){
         selection_sort( data, begin, end );
         return;
     }

     if(n < 2){
         return;
     }

    // Launches a new block to sort the left part.
    cudaStreamCreateWithFlags(&s,cudaDeviceScheduleBlockingSync);
    simple_mergesort<<< 1, 1, 0, s >>>(data,dataAux, begin, middle, depth+1);
    cudaStreamDestroy(s);

    // Launches a new block to sort the right part.
    cudaStreamCreateWithFlags(&s1,cudaDeviceScheduleBlockingSync);
    simple_mergesort<<< 1, 1, 0, s1 >>>(data,dataAux, middle, end, depth+1);
    cudaStreamDestroy(s1);

    // Waits until children have returned, does not compile.
    cudaStreamSynchronize(s);
    cudaStreamSynchronize(s1);


    for (index = begin; index < end; index++) {
        if (i0 < middle && (i1 >= end || data[i0] <= data[i1])){
            dataAux[index] = data[i0];
            i0++;
        }else{
            dataAux[index] = data[i1];
            i1++;
        }
    }

    for(index = begin; index < end; index ++){
        data[index] = dataAux[index];
    }
}

我应该对我的代码进行哪些调整,以便达到预期的效果?

感谢阅读。

1 个答案:

答案 0 :(得分:4)

用于强制内核完成的典型障碍是cudaDeviceSynchronize(),它也可以在父内核中运行,从而迫使子内核完成。

the documentation所示:

  

由于设备运行时不支持cudaStreamSynchronize()和cudaStreamQuery(),因此当应用程序需要知道流启动的子内核已完成时,应使用cudaDeviceSynchronize()。