Ruby中的对数和指数函数的精度误差

时间:2014-08-11 19:45:03

标签: ruby floating-accuracy

我试过了:

t = (Math.log10(7)+3)/2
10.0**(2.0*t-3.0)
=> 7.000000000000002

结果应为7而不是7.000000000000002。为什么呢?

0 个答案:

没有答案