例如,我有两个以10为底的数字表示为
n1 = 5.7818 x 10^(-4) = 0.00057818
和
n2 = 5.6743 x 10^(-4) = 0.00056743
第一个数字n1
是具有浮点精度的计算结果。而第二个数字n2
是相同计算的结果,但具有双精度。
我试图找出值的差异是否是由于浮点精度与双精度引起的。我想说的是类似的
n2 - floating point error <= n1 <= n2 + floating point error
还是不。我一直在Oracle网站https://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html上阅读有关此问题的信息,但到目前为止并没有取得丰硕的成果。
我得到的浮点数精度为p = 24
,双精度数为p = 53
,两者的底数均为beta = 2
,但不确定如何使用它来显示我的精度想要。