测量浮点误差?

时间:2012-02-29 00:37:46

标签: floating-point floating-point-precision

例如,如果我使用pi,并找到1到1000之间的随机数,则将pi除以该数字。然后,将pi乘以该数字。

这会导致浮点错误吗?

(以及处理器上可接受的错误是什么?)

2 个答案:

答案 0 :(得分:0)

是的,这几乎肯定会导致错误(从某种意义上说,结果与原始值不一致)。

如果你想找到错误,那么original - final会出现什么问题(在这种情况下)?

答案 1 :(得分:0)

你的问题非常广泛 - 太过宽泛,无法在Stack Overflow的几个段落中回答。相反,请尝试阅读这篇名为"每个计算机科学家应该知道的关于浮点运算的着名论文":

http://www.math.umd.edu/~jkolesar/mait613/floating_point_math.pdf