Question

我想将值四舍五入到三个有效数字。我想得到如下答案：

39.07 -> 39.1
9.0712 -> 9.07
9.0071-> 9.01
0.01523 -> 0.0152
0.00150 -> 0.0015
39.01233 -> 39

如果小数点前有三个以上的有效数字，则应显示小数点前的所有数字：

11327 -> 11327
11327.314 -> 11327
11327.84 -> 11328

Answer 1

class Float
  def signif(signs)
    Float("%.#{signs}g" % self)
  end
end

> (39.07).signif(3) #=> 39.1
> (9.0712).signif(3) #=> 9.07 
> (9.0071).signif(3) #=> 9.01
> (0.01523).signif(3) #=> 0.0152 
> (0.00150).signif(3) #=> 0.0015 
> (39.01233).signif(3) #=> 39.0

OR

> require 'bigdecimal'
> BigDecimal.new(39.07, 3).to_f #=> 39.1
> BigDecimal.new(9.0712, 3).to_f #=> 9.07 
> BigDecimal.new(9.0071, 3).to_f #=> 9.01
> BigDecimal.new(0.01523, 3).to_f #=> 0.0152 
> BigDecimal.new(0.00150, 3).to_f #=> 0.0015 
> BigDecimal.new(39.01233, 3).to_f #=> 39.0

更新：

如上所述，解决方案不支持小数点前三个以上的有效数字。所以我采取了重要的动态措施，现在您可以传递任何大数字了。无需通过重大考试。根据{{3}}，如果该值等于Integer版本，则应返回Integer值而不是Float。

class Float
  def dynamic_signif
    f = Float("%.#{self.to_i.to_s.size}g" % self)
    n = (f==f.to_i) ? f.to_i : f
  end
end  

> (11327.314).dynamic_signif #=> 11327
> (11327.84).dynamic_signif #=> 11328

注意：：由于此方法属于Float类，因此不适用于FixNum，因此您可能需要将Fixnum转换为Float。

获取三个有效数字的方法

1 个答案: