标签: precision multiplication
如何获得乘法的确切结果?
Python告诉我Cell.Value = Format(Temp,"00000") 等于0.017 * 3。是否有任何命令可以使python打印0.051000000000000004?
Cell.Value = Format(Temp,"00000")
0.017 * 3
0.051000000000000004
答案 0 :(得分:2)
假设您知道操作应该输出的预期有效位数,您可以使用python中的内置舍入函数(在本例中为3)。
>>> round(0.017 * 3, 3) 0.051
答案 1 :(得分:2)
Python中的小数数字文字具有float类型,以二进制表示。使用Decimal类型进行基数10算术。
float
Decimal
>>> from decimal import Decimal >>> print(Decimal('0.017') * 3) 0.051