使用按位运算符进行分支消除

时间:2012-08-19 21:07:32

标签: c++ optimization bit-manipulation

我在循环中有一些关键的分支代码,运行大约2 ^ 26次。分支预测不是最佳的,因为m是随机的。如何删除分支,可能使用按位运算符?

bool m;
unsigned int a;
const unsigned int k = ...; // k >= 7
if(a == 0)
    a = (m ? (a+1) : (k));
else if(a == k)
    a = (m ?     0 : (a-1));
else
    a = (m ? (a+1) : (a-1));

以下是gcc -O3生成的相关汇编:

.cfi_startproc
movl    4(%esp), %edx
movb    8(%esp), %cl
movl    (%edx), %eax
testl   %eax, %eax
jne L15
cmpb    $1, %cl
sbbl    %eax, %eax
andl    $638, %eax
incl    %eax
movl    %eax, (%edx)
ret
L15:
cmpl    $639, %eax
je  L23
testb   %cl, %cl
jne L24
decl    %eax
movl    %eax, (%edx)
ret
L23:
cmpb    $1, %cl
sbbl    %eax, %eax
andl    $638, %eax
movl    %eax, (%edx)
ret
L24:
incl    %eax
movl    %eax, (%edx)
ret
.cfi_endproc

6 个答案:

答案 0 :(得分:4)

我发现的最快的是表格实现

我得到的时间(更新了新的测量代码)

HVD的最新版本:9.2s

表格版本:7.4s(k = 693)

表格创建代码:

    unsigned int table[2*k];
    table_ptr = table;
    for(int i = 0; i < k; i++){
      unsigned int a = i;
      f(0, a);
      table[i<<1] = a;

      a = i;
      f(1, a);
      table[i<<1 + 1] = a;
    }

表运行时循环:

void f(bool m, unsigned int &a){
  a = table_ptr[a<<1 | m];
}

使用HVD的测量代码,我看到rand()的成本主导了运行时,因此无分支版本的运行时与这些解决方案的运行时间大致相同。我将测量代码更改为此(更新以保持随机分支顺序,并预先计算随机值以防止rand()等破坏缓存)

int main(){
  unsigned int a = k / 2;
  int m[100000];
  for(int i = 0; i < 100000; i++){
    m[i] = rand() & 1;
  }

  for (int i = 0; i != 10000; i++
  {
    for(int j = 0; j != 100000; j++){
      f(m[j], a);  
    }
  }
}

答案 1 :(得分:4)

无分支分区模 可能有用,但测试显示实际上并非如此。

const unsigned int k = 639;
void f(bool m, unsigned int &a)
{
    a += m * 2 - 1;
    if (a == -1u)
        a = k;
    else if (a == k + 1)
        a = 0;
}

测试用例:

unsigned a = 0;
f(false, a);
assert(a == 639);
f(false, a);
assert(a == 638);
f(true, a);
assert(a == 639);
f(true, a);
assert(a == 0);
f(true, a);
assert(a == 1);
f(false, a);
assert(a == 0);

使用测试程序实际计时:

int main()
{
    for (int i = 0; i != 10000; i++)
    {
        unsigned int a = k / 2;
        while (a != 0) f(rand() & 1, a);
    }
}

(注意:没有srand,因此结果是确定性的。)

我原来的答案:5.3s

问题中的代码:4.8s

查询表:4.5s(static unsigned lookup[2][k+1];

查询表:4.3s(static unsigned lookup[k+1][2];

Eric的答案:4.2s

此版本:4.0s

答案 2 :(得分:1)

我认为你不能完全删除分支,但你可以先通过分支来减少数量。

if (m){
    if (a==k) {a = 0;} else {++a;}
}
else {
    if (a==0) {a = k;} else {--a;}
}

答案 3 :(得分:1)

添加到锑的重写:

if (a==k) {a = 0;} else {++a;}

看起来像环绕式增加。您可以将其写为

a=(a+1)%k;

当然,只有划分实际上比分支更快才有意义。

不确定另一个;懒得思考(〜0)%k会是什么。

答案 4 :(得分:1)

这没有分支。因为K是常量,所以编译器可能能够根据它的值来优化模数。如果K是'小',那么完整的查找表解决方案可能会更快。

bool m;
unsigned int a;
const unsigned int k = ...; // k >= 7
const int inc[2] = {1, k};

a = a + inc[m] % (k+1);

答案 5 :(得分:1)

如果k不足以导致溢出,你可以这样做:

int a; // Note: not unsigned int
int plusMinus = 2 * m - 1;
a += plusMinus;
if(a == -1) 
    a = k; 
else if (a == k+1) 
    a = 0; 

仍然是分支,但分支预测应该更好,因为边缘条件比m相关条件更罕见。