字节数组置换SSE优化

时间:2017-01-06 08:09:43

标签: c++ gcc x86-64 sse simd

我想使用SSE内在函数翻译此代码。 我找到了可能与此代码一起使用的pshufb SSSE3指令和类似的__builtin_ia32_pshufb128(v128i, v128i) GCC内在函数。 代码通过索引s通过以特定方式交换数组中的字节来置换字节k的向量。

void permutation(int k, std::vector<char> & s) 
{
  for(size_t j = 1; j < s.size(); ++j) 
  {
      std::swap(s[k % (j + 1)], s[j]); 
      k = k / (j + 1);
  }
}

我花了一个小时思考如何将代码翻译为pshufb。是否可以使用单pshufb置换16个字节,还是需要多个指令?足够好的解决方案将在时间上只置换16个字节。

编辑:问题的进一步背景:我正在迭代s的所有可能的排列。提前计算k = 0, 1, 2,...相同s的多个结果是可以的。但是我需要稍后再现k - 排列,最好是O(1)操作。

1 个答案:

答案 0 :(得分:3)

单一电话

请注意,您可以使用mixed radix在位置表示法系统中记下数字k,以便此表示中的每个数字都可以定义多个连续值j的交换元素的索引

例如,对于长度为12的字符串,您可以将任意k写为带有基数的三位数字:

720 = 1*2*3*4*5*6  (0-th digit, lowest value)
504 = 7*8*9        (1-th digit)
1320 = 10*11*12    (2-th digit, highest value)

现在,您可以为每个位置预先计算,并为此位置的每个数字值预先计算所有元素的累积排列,并将其保存在查找表中。然后你就可以通过单一指令进行多次交换。

以下是一个示例(预计算将是最困难的部分):

//to be precomputed:
__m128i mask0[ 720];
__m128i mask1[ 504];
__m128i mask2[1320];

__m128i permutation(int k, __m128i s) {
    s = _mm_shuffle_epi8(s, mask0[k %  720]); k /=  720;  //j = [1..5]
    s = _mm_shuffle_epi8(s, mask1[k %  504]); k /=  504;  //j = [6..8]
    s = _mm_shuffle_epi8(s, mask2[k       ]);             //j = [9..11]
    return s;
}

您可以将分解变为基础,以便在步骤数和查找表大小之间取得平衡。

注意:除法操作非常慢。仅使用编译时常量的除法,然后优化器会将它们转换为乘法。检查生成的程序集以确保没有除法指令。

许多电话

不幸的是,使用建议的解决方案,索引计算仍会占用大部分时间,请参阅generated assembly。如果您一次处理几个连续的k值,则可以显着降低此开销。

优化解决方案的最简单方法是:分别迭代k的数字而不是k上的单个循环。然后索引计算变得不必要了此外,您可以重复使用部分计算结果。

__m128i s;// = ???
for (int k0 = 0; k0 <  720; k0++) {
    __m128i s0 = _mm_shuffle_epi8(s, mask0[k0]);
    for (int k1 = 0; k1 <  504; k1++) {
        __m128i s1 = _mm_shuffle_epi8(s0, mask1[k1]);
        for (int k2 = 0; k2 < 1320; k2+=4) {
            //for k = (((k2+0) * BASE1) + k1) * BASE0 + k0:
            __m128i sx0 = _mm_shuffle_epi8(s1, mask2[k2+0]);
            //for k = (((k2+1) * BASE1) + k1) * BASE0 + k0:
            __m128i sx1 = _mm_shuffle_epi8(s1, mask2[k2+1]);
            //for k = (((k2+2) * BASE1) + k1) * BASE0 + k0:
            __m128i sx2 = _mm_shuffle_epi8(s1, mask2[k2+2]);
            //for k = (((k2+3) * BASE1) + k1) * BASE0 + k0:
            __m128i sx3 = _mm_shuffle_epi8(s1, mask2[k2+3]);

            // ... check four strings: sx0, sx1, sx2, sx3
        }
    }
}

这样你平均每次排列需要进行一次洗牌(见assembly),这似乎接近完美。

代码和结果

以下是所有解决方案的full working code

请注意,生成查找表并不容易完全解释,相应的代码相当大(并且填充了令人讨厌的细节)。

Intel Core 2 Duo E4700 Allendale(2600MHz)上运行的基准测试结果如下:

2.605 s: original code         (k < 12739451)
0.125 s: single-call fast code (k < 12739451)
4.822 s: single-call fast code (k < 479001600)
0.749 s: many-call fast code   (k < 479001600)

因此,单通话版本比原始代码快 20 倍,而且多通话版本比单通话版本快 6.5