表示1 + 2.0 ^ -24

时间:2016-01-20 09:42:58

标签: numerical-methods numerical-analysis

我试图弄清楚为什么单个算术精度中的数字1 + 2.0^-24存储为1.0而不是1 + 2^-23,因为我们可以检查1 + 2.0^-24 - 1 + 2^-23 = 2^-241.0 + 2.0^-24 - 1.0 = 2^-241.0 and 1.0 + 2^-231.0+2^-24的两个壁橱号码。为什么计算机选择1.0

0 个答案:

没有答案