Question

我发现使用0xFFFFFFFF掩码来检测Python中的int32溢出可能对正数有效。

表达式：

Sheet2

如果x没有流量并且x大于0，

将返回x & 0xFFFFFFFF == x。

但是，这个表达式对负整数不起作用，例如：

True

将返回(-7 & 0xFFFFFFFF) == -7，但False不应该溢出int32范围。

有没有人知道为什么这种方法不适用于-7以及如何使其发挥作用？

Answer 1

那是因为Python没有考虑数字的任何固定宽度。所以你没有像我们对 C / C ++ 语言那样的任何符号（最重要的一点）。换句话说，当您在负数和0xffff之间执行按位AND 时，结果是一个大的正数而不是负数：

>>> print(-7 & 0xFFFF)
65529
>>> print(-7 & 0xFFFFFFFF)
4294967289
>>>

对上述声明的确认：

>>> x = -1
>>> y = -2
>>> z = -4
>>> x.bit_length()
1
>>> y.bit_length()
2
>>> z.bit_length()
3
>>>

在 C / C ++ 语言中，因为我们对数字有固定宽度：

#include <iostream>
#include <string>

int main()
{
  int i = -7 & 0xFFFFFFFF;
  std::cout <<  i;
}

输出是相同的负数（如果我们为&运算符的右侧选择正确的长度）：

-7

我想你需要定义一个函数来瞄准你的目标并传递长度的数字。（例如4字节或8字节）。

这样的事情：

>>> def isOverflow(num, width=32):
    if num > 0 and num > 2**(width-1) -1 :
        return True
    elif num < 0 and abs(num) > 2**(width-1):
        return True
    return False

或更高效的版本：

def isOverflow(num, width=32):
    if num > 0:
        if num >> width-1:
            return True
    elif num < 0:
        if abs(num) > (1 << width - 1):
            return True
    return False

其工作原理如下：

>>> ================================ RESTART ================================
>>> 
>>> isOverflow(-129,8)
True
>>> isOverflow(-128,8)
False
>>> isOverflow(128,8)
True
>>> isOverflow(127,8)
False
>>> isOverflow(0x7fffffff)
False
>>> isOverflow(0x8fffffff)
True

在Python中使用0xFFFFFFFF掩码检测int32溢出？

1 个答案: