在使用ROUND()
和ROUNDDOWN()
后,我使用其他列中的值进行了一些奇怪的计算。这两个值之间的计算的最终结果是不可预期的。
我已经解决了我在Google Docs面临的问题,最终结果是类似的。您可以看到电子表格here。
首先我只给出一个浮点值,然后我ROUND()
,然后我ROUNDDOWN()
ROUND()
值。最后,我将使用ROUNDDOWN()
值并使用ROUND()
值减去它。
最终结果包含了很多小数位,并且该值甚至没有接近我指定的初始值,这真的很奇怪。请参阅上面链接的电子表格以获得更好的主意。
预期结果应为0.04或-0.04。没有一堆9s。
答案 0 :(得分:0)
问题是D列中的值没有舍入。
舍入浮点值时,结果仍然是浮点数。舍入改变了它的表示方式,但它仍然是一个尾数和一个指数,当正确组合时,会给你一个非常接近你想要的数字。但不是完全你想要的(通常)。
如果你在减法后对D列中的值进行舍入,你就会得到你期望的结果。