当使用IEEE 754浮点数a和b进行评估时,就和(a - b)+ b的a和b的大小而言,最坏的情况是错误是什么?我有多接近这个期待?
答案 0 :(得分:4)
100%。 b
可能非常大,a-b
会产生-b
,然后(a-b)+b
会产生零。
例如,对于IEEE-754基本64位二进制,(1-2 54 )+ 2 54 得到0,具有舍入到最近的关系-to-偶数。我们也可以100%朝另一个方向发展。如果a
为1且b
为2 53 +2,则(a-b)+b
生成2。
此外,如果b
为无穷大,(a-b)+b
会产生NaN。