这是基本问题:
test = 24.02000 - 24
print "test: %f" % test
if (test == 0.02):
print "OK"
输出:
test: 0.20000
“确定”也应打印出来。
但是,如果我这样做:
test = 0.02
print "test: %f" % test
if (test == 0.02):
print "OK"
我明白了:
test: 0.020000
OK
我在这里遗漏了什么,或者这真的是一个错误?
答案 0 :(得分:4)
这是由于浮点不精确,因为当我们处理基数为10时,计算机处理base-2:
>>> 24.02000 - 24
0.019999999999999574
要解决此问题,您可以使用 round
:
test = 24.02000 - 24
print "test: %f" % test
if (round(test, 2) == 0.02): #round the float to a certain degree of precision and then do the comparison
print "OK"
[OUTPUT]
test: 0.020000
OK
如果您想要以更高的精度进行比较,可以改变round
的第二个参数:
(round(test, 5) == 0.2)