我可能遗漏了一些必要的东西,但我无法找到一种方法来“正确”地将Python(2.7)中的浮点数/小数值舍入,至少小数点后三位。通过'正确',我的意思是1.2225应该舍入到1.223,并且1.2224应该舍入到1.222。
我知道round
不适用于Python中的浮点数,但是我似乎无法让Decimal
按预期行事,也不能使ceil
函数。寻找内置功能而不是自定义功能解决方案最好,但对两者都开放。
>>> x = 1.2225 # expected: 1.223
>>> round(x, 3)
1.222 # incorrect
>>> from math import ceil
>>> ceil(x * 1000.0) / 1000.0
1.223 # correct
>>> y = 1.2224 # expected: 1.222
>>> ceil(y * 1000.0) / 1000.0
1.223 # incorrect
>>> from decimal import Decimal, ROUND_UP, ROUND_HALF_UP
>>> x = Decimal(1.2225)
>>> x.quantize(Decimal('0.001'), ROUND_UP)
Decimal('1.223') # correct
>>> y = Decimal(1.2224)
>>> y.quantize(Decimal('0.001'), ROUND_UP)
Decimal('1.223') # incorrect
>>> y.quantize(Decimal('0.001'), ROUND_HALF_UP)
Decimal('1.222') # correct
>>> x.quantize(Decimal('0.001'), ROUND_HALF_UP)
Decimal('1.222') # incorrect
有没有办法获得理想的结果?
答案 0 :(得分:9)
问题在于Decimal(1.2225)
不是您所期望的那样:
>>> Decimal(1.2225)
Decimal('1.2224999999999999200639422269887290894985198974609375')
您正在使用 float 创建小数,但该浮动对于您的用例来说已经太不精确了。正如您所看到的,它实际上是1.222499
,因此它小于1.2225
,因此可以正确地围绕向下。
为了解决这个问题,你需要通过将它们作为字符串传递来创建具有正确精度的小数。然后一切都按预期工作:
>>> x = Decimal('1.2225')
>>> x.quantize(Decimal('0.001'), ROUND_HALF_UP)
Decimal('1.223')
>>> y = Decimal('1.2224')
>>> y.quantize(Decimal('0.001'), ROUND_HALF_UP)
Decimal('1.222')
答案 1 :(得分:0)
这是你在找什么?
float('{:,.3f}'.format(2.2225))
答案 2 :(得分:0)
以下是此链接中的三个解决方案,我希望这可以帮助您完成您想要做的事情。 https://gist.github.com/jackiekazil/6201722
StreamResult result2 = new StreamResult(new File("D:\\HealthCheck\\status.xml"));