我了解到0.1不能完全表示为浮点数。教科书的论点是,0.1
不能写成一种基于二进制的科学记数法,尽管我从未确定人们如何证明该论证。与此相关,我现在的问题是
42可以精确表示为浮点吗?
假设我们正在讨论IEEE-754 binary64
格式。
答案 0 :(得分:3)
嗯,一个小到足以适合浮点数尾数的整数值(在你的情况下为42
)可以精确表示
42 (decimal) == 101010 (binary)
在1/10
无法正确表示:
0.1 (decimal) == 0.0001100110011001100... (binary)
因为0.1
十进制是二进制期刊分数