如何确定浮点计算和双重计算之间的差异是否在数据类型精度误差之内?

时间:2019-02-28 20:20:02

标签: floating-point precision

例如,我有两个以10为底的数字表示为

n1 = 5.7818 x 10^(-4) = 0.00057818

n2 = 5.6743 x 10^(-4) = 0.00056743

第一个数字n1是具有浮点精度的计算结果。而第二个数字n2是相同计算的结果,但具有双精度。

我试图找出值的差异是否是由于浮点精度与双精度引起的。我想说的是类似的

 n2 - floating point error <= n1 <= n2 + floating point error

还是不。我一直在Oracle网站https://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html上阅读有关此问题的信息,但到目前为止并没有取得丰硕的成果。

我得到的浮点数精度为p = 24,双精度数为p = 53,两者的底数均为beta = 2,但不确定如何使用它来显示我的精度想要。

0 个答案:

没有答案