标签: algorithm math floating-point precision
在划分两个浮点值时,由于精度误差,我得到的答案不正确。例如,1001.05 / 5.0应该等于200.21,但我得到200.2099999999。
使用我们的数学库中的除法函数代替'/'获得了正确的结果。那么这个库函数有什么额外的东西来纠正精度错误呢?您可以向我解释或指出有关用于纠正精度错误的标准算法的信息,此函数必须使用该算法。
答案 0 :(得分:6)
您的数学库未使用浮点数,或者在打印时将结果四舍五入。 200.21无法用标准浮点数精确表示。