看看我为4D点积构建的this example:
#pragma omp declare simd
double dot(double x0, double y0, double z0, double w0, double x1, double y1, double z1, double w1)
{
return x0 * x1 + y0 * y1 + z0 * z1 + w0 * w1;
}
#define SIMD 4
int main(int argc, char **argv)
{
double x[SIMD];
double y[SIMD];
double z[SIMD];
double w[SIMD];
double r[SIMD];
for (int i = 0; i < SIMD; i++)
{
x[i] = y[i] = z[i] = 1;
w[i] = 0;
}
#pragma omp simd
for (int i = 0; i < SIMD; i++)
{
r[i] = dot(x[i], y[i], z[i], w[i], x[i], y[i], z[i], w[i]);
}
double s = 0;
for (int i = 0; i < SIMD; i++)
{
s += r[i];
}
return s;
}
在编译器输出中,您可以看到它生成了一些称为_XXXXXXvvvvvvvv_dot
的函数。我假设这些是用于dot
函数的不同输入长度的函数,或者至少应该是它们应该具有的功能。但是,这些函数似乎并未由编译器实际使用。输出的第94行显示call dot(…)
。那会调用这些功能之一吗?我该怎么做才能使用它们?
答案 0 :(得分:3)
不要尝试手动调用SIMD版本:让编译器从自动矢量化的循环中进行操作。
您没有启用优化,因此GCC不会自动向量化您的循环。因此,它仅调用该函数的标量版本。
GCC的默认值为-O0
-为调试而进行的反优化,因此代码是完全垃圾,实际上并未自动矢量化(没有addpd
或mulpd
指令)。 / p>
使用-O3
启用优化。当GCC看到定义时,它将简单地内联这些调用。 #pragma omp declare simd
可以让编译器发出对该函数的矢量化版本的调用,即使它不能看到该定义。 (或者对于它选择不内联的较大功能。)
您可以在__attribute__((noinline))
上使用dot
来查看其功能,即使是您的小功能也是如此:
On Godbolt with GCC9.1 -O3 -fopenmp
,进行了更改:
# gcc9.1 -O3 -fopenmp
main:
sub rsp, 40
movapd xmm0, XMMWORD PTR .LC0[rip] # {1, 1}
pxor xmm7, xmm7 # {0, 0}
movapd xmm3, xmm7
movapd xmm6, xmm0 # duplicate the 1,1 vector for several args
movapd xmm5, xmm0
movapd xmm4, xmm0
movapd xmm2, xmm0
movapd xmm1, xmm0
call _ZGVbN2vvvvvvvv_dot(double, double, double, double, double, double, double, double)
movaps XMMWORD PTR [rsp], xmm0 # store to the stack
movaps XMMWORD PTR [rsp+16], xmm0 # twice
pxor xmm0, xmm0 # 0.0
addsd xmm0, QWORD PTR [rsp] # 0 + v[0]
addsd xmm0, QWORD PTR [rsp+8] # ... += v[1]
addsd xmm0, QWORD PTR [rsp+16]
addsd xmm0, QWORD PTR [rsp+24] # stupid inefficient horizontal sum
add rsp, 40
cvttsd2si eax, xmm0 # truncate to integer as main's return value
ret
使用很小的#define SIMD 4
,main
实际上根本不需要循环,只需两个16字节向量就足够了。带有编译时常数初始化程序的数组已被优化。 GCC只是将常量具体化为寄存器,将pxor
置零以获取0.0,然后从静态常量数据中加载并复制1.0
。
所以无论如何,只有一个调用dot()
的SIMD版本,仅此而已。我认为GCC知道相同的调用会产生相同的结果,这就是为什么它调用一次但将结果存储两次的原因。
IDK为什么GCC的OpenMP水平总和这么笨。显然,addpd xmm0,xmm0
最好不要存储两次,并且改组可以避免存储/重新加载。同样使用addsd
做0.0 + x
是没有意义的;只需使用您存储的寄存器的低位元素即可。
dot()
的标量版本具有对函数的通常C ++名称修饰。其他版本具有特殊的名称处理约定,可能特定于GCC的OpenMP IDK。
有趣的是,gcc制作了dot
的几个不同版本,包括使用YMM寄存器的AVX版本。还有一些溢出到堆栈中并在循环中使用标量数学; IDK为什么会有这些。
所以我想这意味着即使您在没有-march=skylake-avx512
的情况下编译此源文件,以这种方式编译 的另一个循环仍然可以发出对_ZGVeN8vvvvvvvv_dot
的调用并获取AVX512定义:
_ZGVeN8vvvvvvvv_dot(double, double, double, double, double, double, double, double):
vmulpd zmm1, zmm1, zmm5
vfmadd132pd zmm0, zmm1, zmm4
vfmadd231pd zmm0, zmm2, zmm6
vfmadd231pd zmm0, zmm3, zmm7
奇怪的是,我没有看到在YMM regs上使用FMA的AVX + FMA定义,只有使用vmulpd / vaddpd的SSE2和AVX定义。