我正在尝试使用OpenCL(通过Cloo的C#界面)。为此,我正在尝试使用GPU上的常规矩阵乘法。问题是,在我的速度测试期间,应用程序崩溃了。我正在努力提高各种OpenCL对象的重新分配效率,而且我想知道我是否会这样做。
我会将代码放在这个问题中,但为了更大的图片,你可以从github获取代码:https://github.com/kwende/ClooMatrixMultiply
我的主程序是这样做的:
Stopwatch gpuSw = new Stopwatch();
gpuSw.Start();
for (int c = 0; c < NumberOfIterations; c++)
{
float[] result = gpu.MultiplyMatrices(matrix1, matrix2, MatrixHeight, MatrixHeight, MatrixWidth);
}
gpuSw.Stop();
所以我基本上是在做 NumberOfIterations 次调用,并计算平均执行时间。
在 MultiplyMatrices 调用中,第一次通过,我调用Initialize来设置我要重用的所有对象:
private void Initialize()
{
// get the intel integrated GPU
_integratedIntelGPUPlatform = ComputePlatform.Platforms.Where(n => n.Name.Contains("Intel")).First();
// create the compute context.
_context = new ComputeContext(
ComputeDeviceTypes.Gpu, // use the gpu
new ComputeContextPropertyList(_integratedIntelGPUPlatform), // use the intel openCL platform
null,
IntPtr.Zero);
// the command queue is the, well, queue of commands sent to the "device" (GPU)
_commandQueue = new ComputeCommandQueue(
_context, // the compute context
_context.Devices[0], // first device matching the context specifications
ComputeCommandQueueFlags.None); // no special flags
string kernelSource = null;
using (StreamReader sr = new StreamReader("kernel.cl"))
{
kernelSource = sr.ReadToEnd();
}
// create the "program"
_program = new ComputeProgram(_context, new string[] { kernelSource });
// compile.
_program.Build(null, null, null, IntPtr.Zero);
_kernel = _program.CreateKernel("ComputeMatrix");
}
然后我进入我的函数的主体(将执行的部分 NumberOfIterations 次)。
ComputeBuffer<float> matrix1Buffer = new ComputeBuffer<float>(_context,
ComputeMemoryFlags.ReadOnly| ComputeMemoryFlags.CopyHostPointer,
matrix1);
_kernel.SetMemoryArgument(0, matrix1Buffer);
ComputeBuffer<float> matrix2Buffer = new ComputeBuffer<float>(_context,
ComputeMemoryFlags.ReadOnly | ComputeMemoryFlags.CopyHostPointer,
matrix2);
_kernel.SetMemoryArgument(1, matrix2Buffer);
float[] ret = new float[matrix1Height * matrix2Width];
ComputeBuffer<float> retBuffer = new ComputeBuffer<float>(_context,
ComputeMemoryFlags.WriteOnly | ComputeMemoryFlags.CopyHostPointer,
ret);
_kernel.SetMemoryArgument(2, retBuffer);
_kernel.SetValueArgument<int>(3, matrix1WidthMatrix2Height);
_kernel.SetValueArgument<int>(4, matrix2Width);
_commandQueue.Execute(_kernel,
new long[] { 0 },
new long[] { matrix2Width ,matrix1Height },
null, null);
unsafe
{
fixed (float* retPtr = ret)
{
_commandQueue.Read(retBuffer,
false, 0,
ret.Length,
new IntPtr(retPtr),
null);
_commandQueue.Finish();
}
}
第三次或第四次(它有点随机,暗示了内存访问问题),程序崩溃了。这是我的内核(我确信有更快的实现,但是现在我的目标只是让一些东西工作而不会爆炸):
kernel void ComputeMatrix(
global read_only float* matrix1,
global read_only float* matrix2,
global write_only float* output,
int matrix1WidthMatrix2Height,
int matrix2Width)
{
int x = get_global_id(0);
int y = get_global_id(1);
int i = y * matrix2Width + x;
float value = 0.0f;
// row y of matrix1 * column x of matrix2
for (int c = 0; c < matrix1WidthMatrix2Height; c++)
{
int m1Index = y * matrix1WidthMatrix2Height + c;
int m2Index = c * matrix2Width + x;
value += matrix1[m1Index] * matrix2[m2Index];
}
output[i] = value;
}
最终,这里的目标是更好地理解OpenCL的零拷贝功能(因为我使用的是英特尔的集成GPU)。我一直无法让它工作,所以想退后一点,看看我是否理解更基本的东西......显然我没有,因为我不能在没有炸毁的情况下工作。
我能想到的唯一的其他东西就是我如何固定指针以将其发送到.Read()函数。但我不知道另一种选择。
修改:
为了它的价值,我将代码的最后部分(读取代码)更新为此,它仍然崩溃:
_commandQueue.ReadFromBuffer(retBuffer, ref ret, false, null);
_commandQueue.Finish();
编辑#2
huseyin tugrul buyukisik发现的解决方案(见下面的评论)。
放置
matrix1Buffer.Dispose();
matrix2Buffer.Dispose();
retBuffer.Dispose();
最后,一切正常。
答案 0 :(得分:0)
缓冲区,内核和命令队列等OpenCl资源应该在其绑定的其他资源被释放后释放。重新创建而不会快速耗尽可用的插槽。
您一直在gpu
的方法中重新创建数组,这是opencl缓冲区的范围。完成后,GC无法跟踪opencl的非托管内存区域并导致泄漏,从而导致崩溃。
许多opencl实现使用C ++绑定,这需要C#,Java和其他环境的显式发布命令。
当重复的内核执行使用与内核参数完全相同的缓冲区顺序时,也不需要多次设置参数部分。