我使用的是Haswell Core i7-4790K。
当我使用icc -O3 -std=c99 -march=core-avx2 -g
编译以下玩具示例时:
#include <stdio.h>
#include <stdint.h>
#include <immintrin.h>
typedef struct {
__m256i a;
__m256i b;
__m256i c;
} mystruct_t;
#define SIZE 1000
#define TEST_VAL 42
int _do(mystruct_t* array) {
int value = 0;
for (size_t i = 0; i < SIZE; ++i) {
array[i].a = _mm256_set1_epi8(TEST_VAL + i*3 );
array[i].b = _mm256_set1_epi8(TEST_VAL + i*3 + 1);
array[i].c = _mm256_set1_epi8(TEST_VAL + i*3 + 2);
value += _mm_popcnt_u32(_mm256_movemask_epi8(array[i].a)) +
_mm_popcnt_u32(_mm256_movemask_epi8(array[i].b)) +
_mm_popcnt_u32(_mm256_movemask_epi8(array[i].c));
}
return value;
}
int main() {
mystruct_t* array = (mystruct_t*)_mm_malloc(SIZE * sizeof(*array), 32);
printf("%d\n", _do(array));
_mm_free(array);
}
为_do()
函数生成以下ASM代码:
0x0000000000400bc0 <+0>: xor %eax,%eax
0x0000000000400bc2 <+2>: xor %ecx,%ecx
0x0000000000400bc4 <+4>: xor %edx,%edx
0x0000000000400bc6 <+6>: nopl (%rax)
0x0000000000400bc9 <+9>: nopl 0x0(%rax)
0x0000000000400bd0 <+16>: lea 0x2b(%rdx),%r8d
0x0000000000400bd4 <+20>: inc %ecx
0x0000000000400bd6 <+22>: lea 0x2a(%rdx),%esi
0x0000000000400bd9 <+25>: lea 0x2c(%rdx),%r9d
0x0000000000400bdd <+29>: add $0x3,%edx
0x0000000000400be0 <+32>: vmovd %r8d,%xmm1
0x0000000000400be5 <+37>: vpbroadcastb %xmm1,%ymm4
0x0000000000400bea <+42>: vmovd %esi,%xmm0
0x0000000000400bee <+46>: vpmovmskb %ymm4,%r11d
0x0000000000400bf2 <+50>: vmovd %r9d,%xmm2
0x0000000000400bf7 <+55>: vmovdqu %ymm4,0x20(%rdi)
0x0000000000400bfc <+60>: vpbroadcastb %xmm0,%ymm3
0x0000000000400c01 <+65>: vpbroadcastb %xmm2,%ymm5
0x0000000000400c06 <+70>: vpmovmskb %ymm3,%r10d
0x0000000000400c0a <+74>: vmovdqu %ymm3,(%rdi)
0x0000000000400c0e <+78>: vmovdqu %ymm5,0x40(%rdi)
0x0000000000400c13 <+83>: popcnt %r11d,%esi
0x0000000000400c18 <+88>: add $0x60,%rdi
0x0000000000400c1c <+92>: vpmovmskb %ymm5,%r11d
0x0000000000400c20 <+96>: popcnt %r10d,%r9d
0x0000000000400c25 <+101>: popcnt %r11d,%r8d
0x0000000000400c2a <+106>: add %esi,%r9d
0x0000000000400c2d <+109>: add %r8d,%r9d
0x0000000000400c30 <+112>: add %r9d,%eax
0x0000000000400c33 <+115>: cmp $0x3e8,%ecx
0x0000000000400c39 <+121>: jb 0x400bd0 <_do+16>
0x0000000000400c3b <+123>: vzeroupper
0x0000000000400c3e <+126>: retq
0x0000000000400c3f <+127>: nop
如果我使用gcc-5 -O3 -std=c99 -mavx2 -march=native -g
编译相同的代码,则会为_do()
函数生成以下ASM代码:
0x0000000000400650 <+0>: lea 0x17700(%rdi),%r9
0x0000000000400657 <+7>: mov $0x2a,%r8d
0x000000000040065d <+13>: xor %eax,%eax
0x000000000040065f <+15>: nop
0x0000000000400660 <+16>: lea 0x1(%r8),%edx
0x0000000000400664 <+20>: vmovd %r8d,%xmm2
0x0000000000400669 <+25>: xor %esi,%esi
0x000000000040066b <+27>: vpbroadcastb %xmm2,%ymm2
0x0000000000400670 <+32>: vmovd %edx,%xmm1
0x0000000000400674 <+36>: add $0x60,%rdi
0x0000000000400678 <+40>: lea 0x2(%r8),%edx
0x000000000040067c <+44>: vpbroadcastb %xmm1,%ymm1
0x0000000000400681 <+49>: vmovdqa %ymm2,-0x60(%rdi)
0x0000000000400686 <+54>: add $0x3,%r8d
0x000000000040068a <+58>: vmovd %edx,%xmm0
0x000000000040068e <+62>: vpmovmskb %ymm2,%edx
0x0000000000400692 <+66>: vmovdqa %ymm1,-0x40(%rdi)
0x0000000000400697 <+71>: vpbroadcastb %xmm0,%ymm0
0x000000000040069c <+76>: popcnt %edx,%esi
0x00000000004006a0 <+80>: vpmovmskb %ymm1,%edx
0x00000000004006a4 <+84>: popcnt %edx,%edx
0x00000000004006a8 <+88>: vpmovmskb %ymm0,%ecx
0x00000000004006ac <+92>: add %esi,%edx
0x00000000004006ae <+94>: vmovdqa %ymm0,-0x20(%rdi)
0x00000000004006b3 <+99>: popcnt %ecx,%ecx
0x00000000004006b7 <+103>: add %ecx,%edx
0x00000000004006b9 <+105>: add %edx,%eax
0x00000000004006bb <+107>: cmp %rdi,%r9
0x00000000004006be <+110>: jne 0x400660 <_do+16>
0x00000000004006c0 <+112>: vzeroupper
0x00000000004006c3 <+115>: retq
我的问题是:
1)为什么icc使用未对齐的移动(vmovdqu)与gcc不同?
2)在对齐的内存中使用vmovdqu而不是vmovdqa时是否会受到惩罚?
P.S:使用SSE指令/寄存器的问题是一样的。
由于
答案 0 :(得分:6)
当地址对齐时,使用VMOVDQU没有任何代价。在这种情况下,行为与使用VMOVDQA相同。
至于“为什么”,可能没有一个明确的答案。这是可能的,ICC故意这样做,以便稍后用未对齐的参数调用_do
的用户不会崩溃,但它也可能只是编译器的紧急行为。英特尔编译器团队中的某个人可以回答这个问题,我们其他人只能推测。
答案 1 :(得分:3)
有三个因素可以解决更大的问题:
a)错误行为可能对调试性能有好处,但对生产代码却没有好处 - 特别是当涉及第三方库的混合时 - 很少有人会因为客户站点上的软件产品性能稍慢而崩溃
b)英特尔微体系结构解决了从Nehalem开始的对齐数据性能问题的“未对齐”指令形式,它们与“对齐”形式的性能相同,AMD甚至在此之前就已经做到了 c)AVX +将SSE上的Load + OP表单的架构行为改进为非故障,所以VADDPS ymm0, ymm0, ymmword ptr [rax]; // no longer faults when rax is misaligned
因为对于AVX +,我们希望编译器在从内在函数生成代码时仍然可以使用独立或加载+ OP指令表单,例如:
_mm256_add_ps( a, *(__m256*)data_ptr );
使用AVX +,编译器可以将vMOVU(VMOVUPS / VMOVUPD / VMOVDQU)用于所有负载,并使用Load + OP表单保持统一行为
当源代码稍微改变或相同代码的代码生成发生变化时(例如,在不同的编译器/版本之间或由于内联)和代码生成从Load + OP指令切换到独立的Load和OP指令时需要,负载的行为与Load + OP相同,即非故障。
因此,使用上述编译器实践的AVX和使用“未对齐”存储指令形式总体上允许SIMD代码的统一非故障行为,而不会对齐数据的性能损失。
当然,对于非临时存储(vMOVNTDQ / vMOVNTPS / vMOVNTPD),还存在(相对罕见的)使用目标指令,并且来自WC类型的存储器(vMOVNDQA)的加载可以保持未对齐地址的错误行为。
-Max Locktyukhin,英特尔