数学库中的除法函数如何处理精度误差,除法运算符无法做到?

时间:2012-05-21 08:58:17

标签: algorithm math floating-point precision

在划分两个浮点值时,由于精度误差,我得到的答案不正确。例如,1001.05 / 5.0应该等于200.21,但我得到200.2099999999。

使用我们的数学库中的除法函数代替'/'获得了正确的结果。那么这个库函数有什么额外的东西来纠正精度错误呢?您可以向我解释或指出有关用于纠正精度错误的标准算法的信息,此函数必须使用该算法。

1 个答案:

答案 0 :(得分:6)

您的数学库未使用浮点数,或者在打印时将结果四舍五入。 200.21无法用标准浮点数精确表示。