CPP代码

const int dataSize = 65535;
const int category = 10;
float data[dataSize][category];
const float threshold = 0.5f;

int cnt = 0;

// data array contains any values

for(int i=0;i<dataSize;i++)
{
    if( data[i][9] > threshold )
    {
        data[cnt][0] = data[i][0];
        data[cnt][1] = data[i][1];
        data[cnt][2] = data[i][2];
        data[cnt][3] = data[i][3];
        data[cnt][4] = data[i][4];
        data[cnt][5] = data[i][5];
        data[cnt][6] = data[i][6];
        data[cnt][7] = data[i][7];
        data[cnt][8] = data[i][8];
        data[cnt][9] = data[i][9];
        cnt++;
    }
}

通过使用此代码，我希望'data'数组的元素收集超过阈值。（不超过阈值的元素对我来说并不重要。重要的是刚刚超过阈值。）

我想要在CUDA中以相同结果运行的代码。

所以我试着这样做。

CUDA代码

__global__ void checkOverThreshold(float *data, float threshold, int *nCount)
{
    int idx = threadIdx.x + blockIdx.x * blockDim.x;

    if( data[idx*10+9] > threshold )
    {
        data[nCount+0] = data[idx*10+0];
        data[nCount+1] = data[idx*10+1];
        data[nCount+2] = data[idx*10+2];
        data[nCount+3] = data[idx*10+3];
        data[nCount+4] = data[idx*10+4];
        data[nCount+5] = data[idx*10+5];
        data[nCount+6] = data[idx*10+6];
        data[nCount+7] = data[idx*10+7];
        data[nCount+8] = data[idx*10+8];
        data[nCount+9] = data[idx*10+9];
        atomicAdd( nCount, 1);
    }
}

....

// kernel function call
checkOverThreshold<<< dataSize / 128, 128 >>>(d_data, treshold, d_count);

但是CUDA代码的结果并不是我预期的结果。

它包含大量垃圾值，甚至结果与CPP不同。

我认为nCount变量的同步问题会导致这种情况。

但是，我不知道要解决这个问题。

请帮助我的代码。提前谢谢。

Answer 1

此代码已损坏：

    data[nCount+0] = data[idx*10+0];
    data[nCount+1] = data[idx*10+1];
    data[nCount+2] = data[idx*10+2];
    data[nCount+3] = data[idx*10+3];
    data[nCount+4] = data[idx*10+4];
    data[nCount+5] = data[idx*10+5];
    data[nCount+6] = data[idx*10+6];
    data[nCount+7] = data[idx*10+7];
    data[nCount+8] = data[idx*10+8];
    data[nCount+9] = data[idx*10+9];
    atomicAdd( nCount, 1);

如果在所有这些作业中修改nCount，则会产生无意义。它应该是

    int d = atomicAdd(nCount, 1);
    data[d+0] = data[idx*10+0];
    data[d+1] = data[idx*10+1];
    data[d+2] = data[idx*10+2];
    data[d+3] = data[idx*10+3];
    data[d+4] = data[idx*10+4];
    data[d+5] = data[idx*10+5];
    data[d+6] = data[idx*10+6];
    data[d+7] = data[idx*10+7];
    data[d+8] = data[idx*10+8];
    data[d+9] = data[idx*10+9];

Answer 2

您可以使用Thrust库中的Stream Compaction函数。

例如，

#include <thrust/copy.h>
// ...
const int dataSize = 65535;
struct Datum {
  float f0, f1, f2, ..., f9;
};
Datum data[dataSize];
const float threshold = 0.5f;

struct below_threshold
{
  __host__ __device__
  bool operator()(const Datum &d)
  {
    return d.f9 <= threshold;
  }
};

// data array is contains any values
Datum *new_end = thrust::remove_if(data, data + N, below_threshold());
int cnt = new_end - data;
// first cnt elements have the f9 term > threshold
// other elements are undefined

编辑：相关的推文文档link

如果您不熟悉Thrust，请点击此处快速浏览。它基本上是很多STL风格的容器和算法，加上一些Boost风格的铃声和口哨声。真正酷的是，如果你使用Thrust编写算法而不是自定义内核，你可以在CPU或GPU上运行完全相同的算法。因此，我在这里的实现草图将在CPU上运行，因为内存是在主RAM中分配的。但是如果不使用常规数组作为数据，你可以使用thrust :: device_vector（很像std :: vector），然后Thrust会将你的数据复制到GPU，并且相同的thrust :: remove_if（）调用与相同的仿函数会产生相同的结果。我希望这能让你体会到Thrust，我鼓励你在quick start guide找到更多信息。

Answer 3

根据SchighSchagh的建议，推力将是一种方法。 ArrayFire提供了更多的数学表示。

const int dataSize = 65535;
const int category = 10;
float data[dataSize][category];
const float threshold = 0.5f;

int cnt = 0;

// populate data

// Transfer to device
array Data(data, category, dataSize); // Column major
array idx = where(Data(9, span) > threshold);
Data = Data(span, idx);

我想将我的代码从C ++更改为CUDA，任何想法？

CPP代码

CUDA代码

3 个答案: