在Ruby中舍入复杂数字的问题

时间:2015-11-16 19:23:25

标签: ruby rounding complex-numbers ruby-2.2

在IRB中(使用Ruby 2.2版),如果我尝试通过将其提高到0.5的幂来获得-1的平方根,我会得到奇怪的结果:

(-1)**(0.5)
  => (6.123233995736766e-17+1.0i)

这看起来非常接近,但有人知道舍入问题的来源吗?

0 个答案:

没有答案