(a - b)+ b的最坏情况错误是什么?

时间:2018-06-13 22:44:24

标签: floating-point ieee-754 numerical-stability

当使用IEEE 754浮点数a和b进行评估时,就和(a - b)+ b的a和b的大小而言,最坏的情况是错误是什么?我有多接近这个期待?

1 个答案:

答案 0 :(得分:4)

100%。 b可能非常大,a-b会产生-b,然后(a-b)+b会产生零。

例如,对于IEEE-754基本64位二进制,(1-2 54 )+ 2 54 得到0,具有舍入到最近的关系-to-偶数。我们也可以100%朝另一个方向发展。如果a为1且b为2 53 +2,则(a-b)+b生成2。

此外,如果b为无穷大,(a-b)+b会产生NaN。