标签: floating-point-precision
我搜索了这个答案,但无法理解为什么7位数。 我找到了答案。
有效数的23个小数位(22-0)出现在存储器格式中,但总精度实际上是24位,因为我们假设有一个前导1.这相当于log10(2 ^ 24)≈7.225十进制数字 双精度浮点数有52位,加上前导1是53.因此,双精度数可以保持log10(2 ^ 53)≈15.955十进制数,而不是16位。
有效数的23个小数位(22-0)出现在存储器格式中,但总精度实际上是24位,因为我们假设有一个前导1.这相当于log10(2 ^ 24)≈7.225十进制数字
双精度浮点数有52位,加上前导1是53.因此,双精度数可以保持log10(2 ^ 53)≈15.955十进制数,而不是16位。
为什么要计算对数? 你能解释一下这个概念吗?