浮点运算中可能不准确的数字会发生什么变化?

时间:2016-06-10 16:57:24

标签: floating-point precision

根据维基百科的说法,使用double precision的浮点运算最精确到15位数。

我目前正在阅读:

但我仍然对于如何处理超过15日的数字感到困惑。根据我的理解,有时它们可​​以是准确的,有时它们不是。

一个例子:

           15th digit
                ^  
0.111222333444555xx..

由于潜在的不准确性,我觉得这些数字只会被忽略。如果情况并非如此,那么它们是如何处理的?

0 个答案:

没有答案