可以使用浮点数据类型来存储确切的数字吗?

时间:2011-12-04 16:57:16

标签: types floating-point double

如果我直接(没有通过计算得到它),明确地将0.0001分配给Double类型的变量,它是否保证在任何地方都完全等于0.0001?

1 个答案:

答案 0 :(得分:2)

不......因为根本不可能将0.0001表示为(有限)binary fraction - 在编译或解释文字时会出现舍入错误。

但是,整数可以存储而不会舍入 - 达到精度限制,当然低于相同大小的整数类型。当达到限制时,您开始失去精度,而不是溢出,因此在某些时候d == d+1