编译器实际上是否使用我的“ omp声明simd”函数?

时间:2019-07-19 20:01:09

标签: c++ openmp simd

看看我为4D点积构建的this example

#pragma omp declare simd
double dot(double x0, double y0, double z0, double w0, double x1, double y1, double z1, double w1)
{
    return x0 * x1 + y0 * y1 + z0 * z1 + w0 * w1;
}

#define SIMD 4

int main(int argc, char **argv)
{
    double x[SIMD];
    double y[SIMD];
    double z[SIMD];
    double w[SIMD];

    double r[SIMD];

    for (int i = 0; i < SIMD; i++)
    {
        x[i] = y[i] = z[i] = 1;
        w[i] = 0;
    }

#pragma omp simd
    for (int i = 0; i < SIMD; i++)
    {
        r[i] = dot(x[i], y[i], z[i], w[i], x[i], y[i], z[i], w[i]);
    }

    double s = 0;
    for (int i = 0; i < SIMD; i++)
    {
        s += r[i];
    }
    return s;
}

在编译器输出中,您可以看到它生成了一些称为_XXXXXXvvvvvvvv_dot的函数。我假设这些是用于dot函数的不同输入长度的函数,或者至少应该是它们应该具有的功能。但是,这些函数似乎并未由编译器实际使用。输出的第94行显示call dot(…)。那会调用这些功能之一吗?我该怎么做才能使用它们?

1 个答案:

答案 0 :(得分:3)

不要尝试手动调用SIMD版本:让编译器从自动矢量化的循环中进行操作。

您没有启用优化,因此GCC不会自动向量化您的循环。因此,它仅调用该函数的标量版本。

GCC的默认值为-O0-为调试而进行的反优化,因此代码是完全垃圾,实际上并未自动矢量化(没有addpdmulpd指令)。 / p>

使用-O3 启用优化。当GCC看到定义时,它将简单地内联这些调用。 #pragma omp declare simd可以让编译器发出对该函数的矢量化版本的调用,即使它不能看到该定义。 (或者对于它选择不内联的较大功能。)


您可以在__attribute__((noinline))上使用dot来查看其功能,即使是您的小功能也是如此:

On Godbolt with GCC9.1 -O3 -fopenmp,进行了更改:

# gcc9.1 -O3 -fopenmp
main:
        sub     rsp, 40
        movapd  xmm0, XMMWORD PTR .LC0[rip]     # {1, 1}
        pxor    xmm7, xmm7                      # {0, 0}
        movapd  xmm3, xmm7
        movapd  xmm6, xmm0                      # duplicate the 1,1 vector for several args
        movapd  xmm5, xmm0
        movapd  xmm4, xmm0
        movapd  xmm2, xmm0
        movapd  xmm1, xmm0
        call    _ZGVbN2vvvvvvvv_dot(double, double, double, double, double, double, double, double)
        movaps  XMMWORD PTR [rsp], xmm0        # store to the stack
        movaps  XMMWORD PTR [rsp+16], xmm0     # twice
        pxor    xmm0, xmm0                     # 0.0
        addsd   xmm0, QWORD PTR [rsp]          # 0 + v[0]
        addsd   xmm0, QWORD PTR [rsp+8]        # ... += v[1]
        addsd   xmm0, QWORD PTR [rsp+16]
        addsd   xmm0, QWORD PTR [rsp+24]       # stupid inefficient horizontal sum
        add     rsp, 40
        cvttsd2si       eax, xmm0              # truncate to integer as main's return value
        ret

使用很小的#define SIMD 4main实际上根本不需要循环,只需两个16字节向量就足够了。带有编译时常数初始化程序的数组已被优化。 GCC只是将常量具体化为寄存器,将pxor置零以获取0.0,然后从静态常量数据中加载并复制1.0

所以无论如何,只有一个调用dot()的SIMD版本,仅此而已。我认为GCC知道相同的调用会产生相同的结果,这就是为什么它调用一次但将结果存储两次的原因。

IDK为什么GCC的OpenMP水平总和这么笨。显然,addpd xmm0,xmm0最好不要存储两次,并且改组可以避免存储/重新加载。同样使用addsd0.0 + x是没有意义的;只需使用您存储的寄存器的低位元素即可。


dot()的标量版本具有对函数的通常C ++名称修饰。其他版本具有特殊的名称处理约定,可能特定于GCC的OpenMP IDK。


有趣的是,gcc制作了dot的几个不同版本,包括使用YMM寄存器的AVX版本。还有一些溢出到堆栈中并在循环中使用标量数学; IDK为什么会有这些。

所以我想这意味着即使您在没有-march=skylake-avx512的情况下编译此源文件,以这种方式编译 的另一个循环仍然可以发出对_ZGVeN8vvvvvvvv_dot的调用并获取AVX512定义:

_ZGVeN8vvvvvvvv_dot(double, double, double, double, double, double, double, double):
        vmulpd  zmm1, zmm1, zmm5
        vfmadd132pd     zmm0, zmm1, zmm4
        vfmadd231pd     zmm0, zmm2, zmm6
        vfmadd231pd     zmm0, zmm3, zmm7

奇怪的是,我没有看到在YMM regs上使用FMA的AVX + FMA定义,只有使用vmulpd / vaddpd的SSE2和AVX定义。