例如,如果我使用pi,并找到1到1000之间的随机数,则将pi除以该数字。然后,将pi乘以该数字。
这会导致浮点错误吗?
(以及处理器上可接受的错误是什么?)
答案 0 :(得分:0)
是的,这几乎肯定会导致错误(从某种意义上说,结果与原始值不一致)。
如果你想找到错误,那么original - final
会出现什么问题(在这种情况下)?
答案 1 :(得分:0)
你的问题非常广泛 - 太过宽泛,无法在Stack Overflow的几个段落中回答。相反,请尝试阅读这篇名为"每个计算机科学家应该知道的关于浮点运算的着名论文":
http://www.math.umd.edu/~jkolesar/mait613/floating_point_math.pdf