Question

我编写了一个简单的OpenCL内核来计算GPU上两个图像的互相关性。但是，当我使用enqueueNDRangeKernel执行内核时，一个内核的CPU使用率上升到100％，但主机代码除了等待排队命令完成外什么都不做。这是OpenCL程序的正常行为吗？那里发生了什么？

OpenCL内核（如果相关）：

kernel void cross_correlation(global double *f,
                              global double *g,
                              global double *res) {
  // This work item will compute the cross-correlation value for pixel w
  const int2 w = (int2)(get_global_id(0), get_global_id(1));

  // Main loop
  int xy_index = 0;
  int xy_plus_w_index = w.x + w.y * X;

  double integral = 0;
  for ( int y = 0; y + w.y < Y; ++y ) {
    for ( int x = 0; x + w.x < X; ++x, ++xy_index, ++xy_plus_w_index ) {
      // xy_index is equal to x + y * X
      // xy_plus_w_index is equal to (x + w.x) + (y + w.y) * X
      integral += f[xy_index] * g[xy_plus_w_index];
    }

    xy_index += w.x;
    xy_plus_w_index += w.x;
  }

  res[w.x + w.y * X] = integral;
}

图片f, g, res的大小为X次Y像素，其中X和Y在编译时设置。我正在使用X = 2048和Y = 2048测试上述内核。

其他信息：我在使用OpenCL 1.2版的Nvidia GPU上运行内核。 C ++程序使用OpenCL C ++ Wrapper API编写，并使用bumblebee包中的optirun在Debian上执行。

根据要求，这是一个最小的工作示例：

#include <CL/cl.hpp>

#include <sstream>
#include <fstream>

using namespace std;

int main ( int argc, char **argv ) {
  const int X = 2048;
  const int Y = 2048;

  // Create context
  cl::Context context ( CL_DEVICE_TYPE_GPU );

  // Read kernel from file
  ifstream kernel_file ( "cross_correlation.cl" );
  stringstream buffer;
  buffer << kernel_file.rdbuf ( );
  string kernel_code = buffer.str ( );

  // Build kernel
  cl::Program::Sources sources;
  sources.push_back ( { kernel_code.c_str ( ), kernel_code.length ( ) } );
  cl::Program program ( context, sources );
  program.build ( " -DX=2048 -DY=2048" );

  // Allocate buffer memory
  cl::Buffer fbuf ( context, CL_MEM_READ_WRITE, X * Y * sizeof(double) );
  cl::Buffer gbuf ( context, CL_MEM_READ_WRITE, X * Y * sizeof(double) );
  cl::Buffer resbuf ( context, CL_MEM_WRITE_ONLY, X * Y * sizeof(double) );

  // Create command queue
  cl::CommandQueue queue ( context );

  // Create kernel
  cl::Kernel kernel ( program, "cross_correlation" );

  kernel.setArg ( 0, fbuf );
  kernel.setArg ( 1, gbuf );
  kernel.setArg ( 2, resbuf );

  // Set input arguments
  double *f = new double[X*Y];
  double *g = new double[X*Y];

  for ( int i = 0; i < X * Y; i++ )
    f[i] = g[i] = 0.001 * i;

  queue.enqueueWriteBuffer ( fbuf, CL_TRUE, 0, X * Y * sizeof(double), f );
  queue.enqueueWriteBuffer ( gbuf, CL_TRUE, 0, X * Y * sizeof(double), g );

  // Execute kernel
  queue.enqueueNDRangeKernel ( kernel, cl::NullRange, cl::NDRange ( X, Y ), cl::NullRange, NULL, NULL );
  queue.finish ( );

  return 0;
}

Answer 1

你没有说你如何调用enqueueNDRangeKernel - 这是关键位。据我所知，对于NVidia来说，这个电话是封锁的（虽然我不认为它应该是标准的一部分。）您可以通过让一个单独的线程调用enqueueNDRangeKernel来解决这个问题，并在其他线程继续时让该线程阻塞它，并且阻塞线程可以在事件完成时发出信号。

对它进行了讨论here - 它提出了一些关于并行发生多次调用的警告。

使用OpenCL意外的CPU利用率

1 个答案: