我想在excel中总结这些数字:
232.270000000000000000000
252527.770000000000000000000
126285.000000000000000000000
-378856.000000000000000000000
631426.000000000000000000000
126285.000000000000000000000
126285.000000000000000000000
126287.000000000000000000000
126285.000000000000000000000
126285.000000000000000000000
126285.000000000000000000000
-1389137.000000000000000000000
总和(即Sum(A1:A13)
得出以下结果:190.040000000037000000
希望你看到我的问题(这是什么" 37000000"我的结果的小数?)
答案 0 :(得分:3)
这样的舍入错误来自使用双数据类型而不是十进制数据类型。结果是计算运行得更快,但是当小数点后面有许多数字时,精度会受到影响。避免此类错误的唯一方法是通过在计算完成后再次乘以并再次引入浮点来消除浮点数。
答案 1 :(得分:1)
出现此错误的原因是您的号码中包含 .27 和 .77 。这是floating point accuracy problems的结果。
例如,您无法用二进制表示值 0.1 , 0.01 。在24位精度中,实际值0.1实际上是 0.100000001490116119384765625 。
所以在你的例子中也是如此。