Question

我正在尝试提供一个具有高缓存未命中率的示例程序。我想我可以尝试逐列访问矩阵，如下所示：

#include <stdlib.h>

int main(void)
{
    int i, j, k;

    int w = 1000;
    int h = 1000;

    int **block = malloc(w * sizeof(int*));
    for (i = 0; i < w; i++) {
        block[i] = malloc(h * sizeof(int));
    }

    for (k = 0; k < 10; k++) {
        for (i = 0; i < w; i++) {
            for (j = 0; j < h; j++) {
                block[j][i] = 0;
            }
        }
    }

    return 0;
}

当我用-O0标志编译它并使用perf stat -r 5 -B -e cache-references,cache-misses ./a.out运行时，它给了我：

 Performance counter stats for './a.out' (5 runs):

    715,463 cache-references                                      ( +-  0.42% )
    527,634 cache-misses          #   73.747 % of all cache refs  ( +-  2.53% )

0.112001160 seconds time elapsed                                  ( +-  1.58% )

这对我的目的来说足够好了。但是，如果我继续将矩阵大小更改为2000x2000，则会给出：

 Performance counter stats for './a.out' (5 runs):

  6,364,995 cache-references                                      ( +-  2.32% )
  2,534,989 cache-misses          #   39.827 % of all cache refs  ( +-  0.02% )

0.461104903 seconds time elapsed                                  ( +-  0.92% )

如果我将其进一步增加到3000x3000，我会得到：

 Performance counter stats for './a.out' (5 runs):

 59,204,028 cache-references                                      ( +-  1.36% )
  5,662,629 cache-misses          #    9.565 % of all cache refs  ( +-  0.11% )

1.116573625 seconds time elapsed                                  ( +-  0.32% )

这很奇怪，因为随着大小的增加，我希望获得更多的缓存未命中率。我需要一些尽可能与平台无关的东西。计算机体系结构课程很久以前就会受到欢迎。

备注

我说我需要一些相对平台独立的东西，但这些仍然是我的规格：

英特尔®酷睿™i5-2467M
4 GiB RAM
64位ubuntu 12.04

Answer 1

小心现代CPU中的自动预取 - 它通常可以检测跨步访问。也许尝试随机访问模式，例如：

int main(void)
{
    int i;

    int n = 1000 * 1000;

    int *block = malloc(n * sizeof(int));

    for (i = 0; i < n / 10; i++) {
         int ri = rand() % n;
         block[ri] = 0;
    }

    return 0;
}

Answer 2

我不完全确定你可以比较这些程序或真正保证任何东西，因为它取决于操作系统如何分配单独的内存块。

您至少应该将所有内存分配为一个块，然后索引到该块以获取所有数组（int*和int）。这样你就有了一致的起点。您可能希望将数组大小作为参数传递，而不是每次都重新编译。

你也可以调整它，以便你分配比你需要更多的内存并放置每一行（或列，你写的方式），以保证只加载一个矩阵的行（列）任何时候缓存。 ie 找出缓存的大小，并将每个块空间至少相隔很多字节。

请注意，在退出之前，您应该free记忆。

正如其他人已经指出的那样，随机化您的访问模式是一个好主意。

如何提出高缓存未命中率示例？

2 个答案: