1991年2月25日,在海湾战争期间,沙特阿拉伯达兰的美国爱国者导弹电池未能拦截伊拉克飞毛腿导弹。原因是1/10以24位表示。(1/10是永无止境的二进制数)。我想知道我们如何用32位或64位表示这样的数字?
答案 0 :(得分:1)
0.1十进制是二进制中的无限(重复)分数:0.0(0011),其中()表示重复部分。在这里,它是在80个小数位后截断的(我使用binary converter来产生这个):
... 0.00011001100110011001100110011001100110011001100110011001100110011001100110011001
舍入到24 显着位(浮点数),它是0.000110011001100110011001101。舍入为53 显着位(双),为0.0001100110011001100110011001100110011001100110011001101。