Ruby从23 + 9.23 = 32.230000000000004看起来看似不稳定

Question

我在Ruby中收到了非常有趣且看似不稳定的结果。发生了什么事？

这是对的！

>> 23+9.22 
=> 32.22

这不是！

>> 23+9.23 
=> 32.230000000000004

所有尾随零的来自哪里？发生了什么事？

Answer 1

puts "%.30f" % 9.23
#=> 9.230000000000000426325641456060

由于base-2（数字的计算机内部表示）和base-10（你习惯于处理和输入文本编辑器或IRB）之间的区别，你不能完全代表9.23 < / em>作为浮点值。这不是特定于Ruby的，而是几乎存在于每种编程语言中。

例如，9.23在内部表示为2的幂的总和，如：

01001.00111010111...
||||| ||||||||||+-> 1 * 1/2048 \            
||||| |||||||||+--> 1 * 1/1024  \          
||||| ||||||||+---> 1 * 1/512    \        
||||| |||||||+----> 0 * 1/256     \       
||||| ||||||+-----> 1 * 1/128      \      
||||| |||||+------> 0 * 1/64         fraction = 0.22998046875
||||| ||||+-------> 1 * 1/32       /     
||||| |||+--------> 1 * 1/16      /      
||||| ||+---------> 1 * 1/8      /      
||||| |+----------> 0 * 1/4     /       
||||| +-----------> 0 * 1/2    /        
|||||  
||||+-------------> 1 * 1      \
|||+--------------> 0 * 2       \  
||+---------------> 0 * 4         integer = 9
|+----------------> 1 * 8       /
+-----------------> 0 * 16     /

有关详细信息，请阅读 What Every Computer Scientist Should Know About Floating Point Arithmetic 和IEEE 754 description on Wikipedia。

当精确度很重要（例如货币）时，您的解决方法是：

1. 跟踪计算的最小可用单位（例如便士），仅转换为十进制显示。例如：

   result = 2300 + 923          # $23.00 + $9.23
   puts "%.2f" % (result/100.0) # Ensure output rounded to two decimal places
   #=> 32.23
   

2. 使用BigDecimal之类的库来跟踪精确的精度，并将数据库设置为使用DECIMAL or NUMERIC等固定精度数据类型。

3. 接受数值通常“足够接近”，并在向用户显示时始终使用格式化选项，例如

   result = 23 + 9.27    #=> 32.269999999999996
   puts "%g" % result    #=> 32.27
   puts "%.3f" % result  #=> 32.270
   puts "%.1f" % result  #=> 32.3
   

Answer 2

这不是Ruby的问题。这是计算机中浮点数表示的已知问题。

如果您正在进行财务或货币处理，那么您希望远离浮点数来代表您的金额。