Ruby Integer / Fixnum古怪

时间:2010-09-15 05:03:09

标签: ruby

我正在尝试编写一个从整数中提取最低阶数的函数。例如:

> 24689.lowest_order
=> 9

到目前为止,我有:

class Integer
  def lowest_order
    Integer (self / 10.0 - self / 10) * 10
  end
end

它有效....有时候:

irb(main):002:0> n = 235
=> 235
irb(main):007:0> n.class
=> Fixnum
irb(main):004:0> n/10.0
=> 23.5
irb(main):005:0> n/10
=> 23
irb(main):003:0> n.lowest_order
=> 5
irb(main):008:0> (n/10.0 - n/10)*10
=> 5.0

而其他时候失败(示例之间没有代码更改):

irb(main):010:0> n = 232
=> 232
irb(main):021:0> n.class
=> Fixnum
irb(main):009:0> n.lowest_order
=> 1
irb(main):011:0> n/10.0
=> 23.2
irb(main):012:0> n/10
=> 23
irb(main):013:0> n/10.0 - n/10
=> 0.199999999999999
irb(main):022:0> n = Integer 232
=> 232
irb(main):023:0> n/10.0 - n/10
=> 0.199999999999999

这笔交易是什么?我宁愿不必通过String过滤整数,只是为了获取数字的最小部分。

谢谢!

1 个答案:

答案 0 :(得分:5)

您是否有理由不能n % 10n.modulo 10(请参阅documentation)?

回答“为什么这不起作用?”问题的一部分,答案是floating point arithmetic doesn't always behave as you'd expect it to