显然F＃/ BCL浮点错误

Question

以下是FSI：

> System.Math.Round(0.2916, 2);;
val it : float = 0.29
> it * 100.;;
val it : float = 29.0
> int it;;
val it : int = 28

结果在我尝试的任何地方都是一样的 - 编译的F＃3.1 / .NET 4.0应用程序，Visual Studio 2013和2015中的FSI，.NET Fiddle，@ fsibot ....

肯定这是某个地方的错误，不是吗？这里发生了什么？

Answer 1

这就是浮点数的工作原理。输出中显示为29的数字实际上略小于29（因为浮点数不精确）：

> (System.Math.Round(0.2916, 2) * 100.0) - 29.0;;
val it : float = -3.552713679e-15

Answer 2

float是二进制浮点数据类型。并非所有十进制浮点值都可以精确表示为二进制浮点。 FSI显示的29实际上是28.999999999999996。

如果要存储精确的十进制浮点值，请使用decimal数据类型（以文字decimal代替float添加m - 例如0.2916m）。

> System.Math.Round(0.2916m, 2);;
val it : decimal = 0.29M
> it * 100m;;
val it : decimal = 29.00M
> int it;;
val it : int = 29

Answer 3

您可以更改F＃FSI Pretty Printer，如Matlab＆＃34;格式化长＆＃34;

fsi.AddPrinter( fun (x:float) -> sprintf "%26.16e" x);;

FSI输出

System.Math.Round( 0.2916, 2)   //  2.8999999999999998e-001

1./3.                           // 3.3333333333333331e-001