了解在x86微基准测试中退役的装载和存储的数量

时间:2014-11-21 00:21:23

标签: c gcc assembly x86 perf

我最近一直在使用perf,我得到了一些我无法理解的结果。 具体而言,数量或退役货物和商店与我的预期不符。

我编写了一个非常简单的微基准测试代码,看看结果在一个非常简单的情况下是否有意义:

#include <stdio.h>

#define STREAM_ARRAY_SIZE   10000000

static double   a[STREAM_ARRAY_SIZE],
    b[STREAM_ARRAY_SIZE],
    c[STREAM_ARRAY_SIZE];


int main(){

    ssize_t j;

    for (j=0; j<STREAM_ARRAY_SIZE; j++) {
        a[j] = 1.0;
        b[j] = 2.0;
        c[j] = 0.0;
    }

    return 0;
}

我用gcc 4.6.3编译:

gcc -Wall -O benchmark.c -o benchmark

并且它确实编译为一个非常简单的程序集(使用objdump -d获得)作为main:

00000000004004b4 <main>:
  4004b4:   b8 00 00 00 00          mov    $0x0,%eax
  4004b9:   48 be 00 00 00 00 00    movabs $0x3ff0000000000000,%rsi
  4004c0:   00 f0 3f
  4004c3:   48 b9 00 00 00 00 00    movabs $0x4000000000000000,%rcx
  4004ca:   00 00 40
  4004cd:   ba 00 00 00 00          mov    $0x0,%edx
  4004d2:   48 89 34 c5 40 10 60    mov    %rsi,0x601040(,%rax,8)
  4004d9:   00
  4004da:   48 89 0c c5 40 c4 24    mov    %rcx,0x524c440(,%rax,8)
  4004e1:   05
  4004e2:   48 89 14 c5 40 78 e9    mov    %rdx,0x9e97840(,%rax,8)
  4004e9:   09
  4004ea:   48 83 c0 01             add    $0x1,%rax
  4004ee:   48 3d 80 96 98 00       cmp    $0x989680,%rax
  4004f4:   75 dc                   jne    4004d2 <main+0x1e>
  4004f6:   b8 00 00 00 00          mov    $0x0,%eax
  4004fb:   c3                      retq
  4004fc:   90                      nop
  4004fd:   90                      nop
  4004fe:   90                      nop
  4004ff:   90                      nop

三个mov应该对应于存储器中三个不同的向量。我希望退役的商店数量非常接近30M而几乎没有负载因为我刚刚初始化了三个数组。然而,这是我在Sandy Bridge机器上得到的结果:

$ perf stat -e L1-dcache-loads,L1-dcache-stores ./benchmark 

 Performance counter stats for './benchmark':

        46,017,360 L1-dcache-loads                                             
        75,985,205 L1-dcache-stores

这是Nehalem的机器:

$ perf stat -e L1-dcache-loads,L1-dcache-stores  ./benchmark

 Performance counter stats for './benchmark':                                                                                                                                                                                                

        45,255,731 L1-dcache-loads                                                                                                                                                                                                           
        60,164,676 L1-dcache-stores

退役的装载和存储如何计算每个针对内存的mov操作? 即使实际上没有从内存中读取数据,怎么会有这么多的负载呢?

1 个答案:

答案 0 :(得分:6)

所以我对此有点好奇并做了一些研究。主要是为了看看自上次使用它以来,perf框架有多么有用,它在共享开发机器上崩溃内核,其他25个开发人员对我的实验非常不满。

首先,让我们确认一下你看到了什么:

$ cc -O -o xx xx.c && perf stat -e L1-dcache-loads,L1-dcache-stores ./xx

 Performance counter stats for './xx':

        58,764,160 L1-dcache-loads
        81,640,635 L1-dcache-stores

烨。甚至更大的数字。那么发生了什么?让我们更好地记录和分析这个:

$ cc -O -o xx xx.c && perf record -e L1-dcache-loads,L1-dcache-stores ./xx
[... blah blah ...]
$ perf report --stdio
[... blah blah ...]
# Samples: 688  of event 'L1-dcache-loads'
# Event count (approx.): 56960661
#
# Overhead  Command      Shared Object    Symbol
# ........  .......  .................  ........
#
    95.80%       xx  [kernel.kallsyms]  [k] 0xffffffff811176ee
     4.20%       xx  xx                 [.] main


# Samples: 656  of event 'L1-dcache-stores'
# Event count (approx.): 80623804
#
# Overhead  Command      Shared Object    Symbol
# ........  .......  .................  ........
#
    61.72%       xx  [kernel.kallsyms]  [k] 0xffffffff811176ee
    38.28%       xx  xx                 [.] main

啊哈,所以内核负责大多数加载和存储。我们得到的计数器计算内核和用户空间的缓存访问。

正在发生的事情是程序的物理页面(包括数据段和bss)在启动程序时未映射或甚至分配。当您第一次触摸它们时(或将来如果它们被分页),内核会将它们排除在外。我们可以看到:

$ cc -O -o foo foo.c && perf stat -e faults ./xx

 Performance counter stats for './xx':

            58,696 faults

我们实际上只是在一次运行期间执行58.7k页错误。由于页面大小为4096字节,因此我们得到58696*4096=240418816,大约是数组的240000000字节,其余的是程序,堆栈以及运行时所需的libc和ld.so中的各种垃圾。

所以现在我们可以弄清楚这些数字。让我们先看看商店,因为他们应该是最容易弄明白的。 80623804*0.3828=30862792.1712,这是有道理的。我们预计有3000万家商店,我们有30.9家。由于性能计数器采样并且不完全准确,因此这是预期的。内核确实溢出的一些负载已经计入程序。在其他运行中,我获得的用户数不到30M。

同样,userland获得2.4M负载。我怀疑这些实际上并不是在用户空间中加载,而是出于某种原因,一些访问内核在从陷阱中返回时会对您的程序进行处理。或类似的东西。我不确定那些,我不喜欢它们,但让我们看看我们是否可以消除这些噪音,并检查它是否与页面错误导致的垃圾数据有关。

以下是测试的更新版本:

#include <stdio.h>

#define STREAM_ARRAY_SIZE   10000000

static double   a[STREAM_ARRAY_SIZE],
    b[STREAM_ARRAY_SIZE],
    c[STREAM_ARRAY_SIZE];

void
setup(void)
{
    memset(a, 0, sizeof a);
    memset(b, 0, sizeof b);
    memset(c, 0, sizeof c);
}

void
bench(void)
{
    ssize_t j;

    for (j = 0; j < STREAM_ARRAY_SIZE; j++) {
        a[j] = 1.0;
        b[j] = 2.0;
        c[j] = 0.0;
    }
}

int
main(int argc, char **argv)
{
    setup();
    bench();
    return 0;
}

我确保在setup期间获取所有页面错误,然后在bench期间溢出的任何计数器都应该包含很少的内核噪声。

$ cc -O -o xx xx.c && perf record -e faults,L1-dcache-loads,L1-dcache-stores ./xx
[...]
$ perf report --stdio
[...]
# Samples: 468  of event 'faults'
# Event count (approx.): 58768
#
# Overhead  Command      Shared Object             Symbol
# ........  .......  .................  .................
#
    99.20%       xx  libc-2.12.so       [.] __memset_sse2
     0.69%       xx  ld-2.12.so         [.] do_lookup_x
     0.08%       xx  ld-2.12.so         [.] dl_main
     0.02%       xx  ld-2.12.so         [.] _dl_start
     0.01%       xx  ld-2.12.so         [.] _start
     0.01%       xx  [kernel.kallsyms]  [k] 0xffffffff8128f75f


# Samples: 770  of event 'L1-dcache-loads'
# Event count (approx.): 61518838
#
# Overhead  Command      Shared Object             Symbol
# ........  .......  .................  .................
#
    96.14%       xx  [kernel.kallsyms]  [k] 0xffffffff811176ee
     3.86%       xx  libc-2.12.so       [.] __memset_sse2


# Samples: 866  of event 'L1-dcache-stores'
# Event count (approx.): 98243116
#
# Overhead  Command      Shared Object             Symbol
# ........  .......  .................  .................
#
    53.69%       xx  [kernel.kallsyms]  [k] 0xffffffff811176ee
    30.62%       xx  xx                 [.] bench
    15.69%       xx  libc-2.12.so       [.] __memset_sse2

你有它。页面错误发生在调用memset期间,有些是在动态链接期间发生的,以前主要的噪音现在发生在memset期间,bench本身没有任何负载,大约30百万商店。就像我们预期的那样。这里有一个有趣的注意事项是memset知道如何在这台机器上有效率,并且只有一半的商店与你的测试相比,以填充相同数量的内存。 __memset_sse2中的“sse2”是一个很好的暗示。

我刚刚意识到有一件事可能不太清楚,我不知道该把它放在哪里,所以我会放在这里。性能计数器会对事件进行准确计数,但据我所知,如果您想知道这些事件发生的位置,CPU每次记录X事件时都只能生成一个陷阱。因此,这些工具并不确切知道事件发生的位置(以这种方式运行速度太慢),而是等到陷阱到来并将所有X事件记录到该指令/函数。我想,但是我不确定X是否至少为10000.因此,如果函数bench只触及堆栈一次并且恰好生成L1-dcache-load溢出陷阱,那么您将记录10000个读取读取堆栈。另外,据我所知,bench函数中的TLB未命中(其中你会得到58593左右)也会通过L1缓存解析,并将计入其中。所以无论你做什么,你都永远不会得到你期望的数字。