计算浮点数

时间:2016-11-15 17:06:36

标签: floating-point floating-accuracy

根据维基百科,只要有少于7位有效数字,单精度浮点数就会保持优势。有没有找到这个有效位数的公式?

例如: 关于具有符号位,7位,超过63指数,8位分数和基数2取幂的浮点格式的精度的十进制数是多少?

1 个答案:

答案 0 :(得分:0)

十进制有效数字的数量,因为这意味着什么,或多或少是n / log 2 (10),其中n是有效二进制数字的数量。在您的示例中,有效二进制数字的数量是9(隐含的一个后跟8个有效位数)。 log 2 (10)约为3.32,所以你得到的有效小数字会少于3位。

如果您有一个特定的“有效十进制数字”定义,例如“可以通过二进制格式进行三舍五入的位数,从带有重要n位的十进制表示开始并舍入到n个十进制数字在回来的路上,“没有信息丢失”,你会想要阅读this Exploring Binary post