Question

我正试图绕过CUB，并且在（相当不完整的）工作示例之后遇到一些麻烦。 CUB看起来像是一个很棒的工具，我只是无法理解示例代码。

我已经构建了一个简单的proto-warp reduce示例：

#include <cub/cub.cuh>
#include <cuda.h>
#include <vector>
using std::vector;
#include <iostream>
using std::cout;
using std::endl;

const int N = 128;

__global__ void sum(float *indata, float *outdata) {
    typedef cub::WarpReduce<float,4> WarpReduce;
    __shared__ typename WarpReduce::TempStorage temp_storage;
    int id = blockIdx.x*blockDim.x+threadIdx.x;
    if( id < 128 ) {
        outdata[id] = WarpReduce(temp_storage).Sum(indata[id]);
    }
}

int main() {
    vector<float> y(N), sol(N);
    float *dev_y, *dev_sol;
    cudaMalloc((void**)&dev_y,N*sizeof(float));
    cudaMalloc((void**)&dev_sol,N*sizeof(float));
    for( int i = 0; i < N; i++ ) {
        y[i] = (float)i;
    }
    cout << "input: ";
    for( int i = 0; i < N; i++ ) cout << y[i] << " ";
    cout << endl;
    cudaMemcpy(&y[0],dev_y,N*sizeof(float),cudaMemcpyHostToDevice);
    sum<<<1,32>>>(dev_y,dev_sol);
    cudaMemcpy(dev_sol,&sol[0],N*sizeof(float),cudaMemcpyDeviceToHost);
    cout << "output: ";
    for( int i = 0; i < N; i++ ) cout << sol[i] << " ";
    cout << endl;
    cudaFree(dev_y);
    cudaFree(dev_sol);
    return 0;
}

返回全部零。

我知道这个代码会返回一个减少，这个减少被绑定，每个第32个元素是warp的总和，其他元素是未定义的 - 我只是想了解CUB的工作原理。有人可以指出我做错了吗？

（此外，CUB还应该拥有自己的标签吗？）

Answer 1

您的cudaMemcpy参数会回到正面，目标位于第一位（与memcpy一致）。

cudaError_t cudaMemcpy ( void* dst, const void* src, size_t count, cudaMemcpyKind kind )

有关详细信息，请参阅API reference。

使用cuda和CUB的缩减示例

1 个答案: