Question

我一直在玩一个访问7个全局内存缓冲区的OpenCL内核，对值执行某些操作并将结果存储回第8个全局内存缓冲区。正如我所观察到的，随着输入大小的增加，L1缓存未命中率（=未命中（未命中+命中））变化很大。我找不到这种变化的来源。此处的输入大小表示全局工作项的数量（2的幂和工作组大小的倍数）。工作组大小的数量仍为256.

这些是结果。这些显示了L1缓存未命中率。从4096个工作项目（16个工作组）开始。

0.677125
0.55946875
0.345994792
0.054078125
0.436167969
0.431871745
0.938546224
0.959258789
0.952941406
0.955016479

剖析器说每个线程使用18个寄存器。这是代码（函数TTsum（）应该只做一堆依赖的超越操作，所以它与我猜的缓存无关）：

float TTsum(float x1, float x2, float x3, float x4, float x5, float x6, float x7)
{
        float temp = 0;
        for (int j = 0; j < 2; j++)
                temp = temp +  x1 + (float)x2 + x3 + x4 + x5 + x6 + x7;
        temp = sqrt(temp);
        temp = exp(temp);
        temp = temp / x1;
        temp = temp / (float)x2;
        for (int j = 0; j < 20; j++) temp = sqrt(temp);
        return temp;
}

__kernel void histogram(__global float* x1,
                        __global int* x2,
                        __global float* x3,
                        __global float* x4,
                        __global float* x5,
                        __global float* x6,
                        __global float* x7,
                        __global float* y)
{
  int id = get_global_id(0);    
  for (int j = 0; j < 1000; j++)
    y[id] = TTsum(x1[id], x2[id], x3[id], x4[id], x5[id], x6[id], x7[id]);
}

有人可以解释缓存行为吗？实验在GTX580中完成。

Answer 1

在CUDA中计算直方图非常困难。我相信y []上的随机访问很可能是你观察到的行为的原因。如果你没有，可以阅读：http://developer.download.nvidia.com/compute/cuda/1_1/Website/projects/histogram256/doc/histogram.pdf

GPU中缓存未命中的变化

1 个答案: