Question

我有一个包含四个64位浮点值的打包向量我想得到向量元素的总和。

使用SSE（并使用32位浮点数），我可以执行以下操作：

v_sum = _mm_hadd_ps(v_sum, v_sum);
v_sum = _mm_hadd_ps(v_sum, v_sum);

不幸的是，即使AVX具有_mm256_hadd_pd指令，它的结果也与SSE版本不同。我相信这是因为大多数AVX指令分别用作每个低128位和高128位的SSE指令，而不会跨越128位边界。

理想情况下，我要寻找的解决方案应遵循以下准则：
1）仅使用AVX / AVX2指令。（没有SSE）
2）不超过2-3条指令。

然而，任何有效/优雅的方式（即使不遵守上述指导原则）总是被广泛接受。

非常感谢您的帮助。

-Luigi Castelli

Answer 1

如果您有两个__m256d向量x1和x2，每个向量包含四个double，您想要横向求和，您可以这样做：

__m256d x1, x2;
// calculate 4 two-element horizontal sums:
// lower 64 bits contain x1[0] + x1[1]
// next 64 bits contain x2[0] + x2[1]
// next 64 bits contain x1[2] + x1[3]
// next 64 bits contain x2[2] + x2[3]
__m256d sum = _mm256_hadd_pd(x1, x2);
// extract upper 128 bits of result
__m128d sum_high = _mm256_extractf128_pd(sum1, 1);
// add upper 128 bits of sum to its lower 128 bits
__m128d result = _mm_add_pd(sum_high, _mm256_castpd256_pd128(sum));
// lower 64 bits of result contain the sum of x1[0], x1[1], x1[2], x1[3]
// upper 64 bits of result contain the sum of x2[0], x2[1], x2[2], x2[3]

因此，看起来3条指令将执行您需要的2个水平和。以上是未经测试的，但你应该得到这个概念。

Answer 2

如果你只需要总和，可以接受一些标量代码：

__m256d x;
__m256d s = _mm256_hadd_pd(x,x);
return ((double*)&s)[0] + ((double*)&s)[2];

Answer 3

假设以下情况，你有一个包含4个打包双打的__m256d向量，你想计算其组件的总和，即a0, a1, a2, a3是你想要的每个双重组件{{1}然后是另一个AVX解决方案：

a0 + a1 + a2 + a3

这个解决方案有广播的总和可能有用......

如果我误解了这个问题，我会道歉。

// goal to calculate a0 + a1 + a2 + a3
__m256d values = _mm256_set_pd(23211.24, -123.421, 1224.123, 413.231);

// assuming _mm256_hadd_pd(a, b) == a0 + a1, b0 + b1, a2 + a3, b2 + b3 (5 cycles) ...
values = _mm256_hadd_pd(values, _mm256_permute2f128_pd(values, values, 1));
// ^^^^^^^^^^^^^^^^^^^^ a0 + a1, a2 + a3, a2 + a3, a0 + a1

values = _mm256_hadd_pd(values, values);
// ^^^^^^^^^^^^^^^^^^^^ (a0 + a1 + a2 + a3), (a0 + a1 + a2 + a3), (a2 + a3 + a0 + a1), (a2 + a3 + a0 + a1)

// Being that addition is associative then each component of values contains the sum of all its initial components (11 cycles) to calculate, (1-2 cycles) to extract, total (12-13 cycles)
double got = _mm_cvtsd_f64(_mm256_castpd256_pd128(values)), exp = (23211.24 + -123.421 + 1224.123 + 413.231);

if (got != exp || _mm256_movemask_pd(_mm256_cmp_pd(values, _mm256_set1_pd(exp), _CMP_EQ_OS)) != 0b1111)
    printf("Failed to sum double components, exp: %f, got %f\n", exp, got);
else
    printf("ok\n");

使用AVX指令进行水平矢量和的最快方法

3 个答案: