关于线性程序中的错误计算的深入探讨

时间:2019-04-10 02:52:57

标签: java

我正在研究LP解算器。当我测试一个点是否适合我的线性方程组时,我遇到了以下关于错误计算的深层问题:

1.8 * 2 + 20.8 + 1.6 = 26.000000000000004

您可以轻松地重新计算得出它是26。 我已经读过here,这是存储浮点数的某种硬件问题。但是我该如何解决此类问题,这样我的求解器才能很好地工作?

0 个答案:

没有答案