浮点数编号精度分布

时间:2016-10-10 23:09:15

标签: language-agnostic precision

首先,我只想说明我已阅读this讨论。

浮点在所有可能值中是否均匀不准确?或者,当值越来越远离0时,不准确度会增加吗?

1 个答案:

答案 0 :(得分:0)

要理解这一点,您需要清楚地确定您所谈论的准确度。它通常是衡量计算中发生的错误的一种方法,我怀疑你不是只考虑相关浮点格式的计算。

这些都是您问题的答案:

  • 精度 - 以有效位数表示 - 浮点数在大部分范围内保持不变。 (仅对于非正规数字,随着数字变小,精度会降低。)
  • 浮点运算的精度通常受精度的限制,因此在该范围内大多数是恒定的。见上一点。
  • 对于整数,精度可以将十进制数转换为二进制浮点的精度高于具有小数分量的数字。这是因为整数可以表示为2的幂的倍数,而小数部分不能表示为2的负幂的倍数。 (典型的例子是0.1成为二进制浮点的重复部分)。

最后一点的结果是,当你用科学记数法开始略微大的十进制数时,例如, 1.123 * 10 ^ 4,它们具有与整数相同的值,因此可以精确地转换为二进制浮点。