乘法python

时间:2016-04-12 20:01:37

标签: precision multiplication

如何获得乘法的确切结果?

Python告诉我Cell.Value = Format(Temp,"00000") 等于0.017 * 3。是否有任何命令可以使python打印0.051000000000000004

2 个答案:

答案 0 :(得分:2)

假设您知道操作应该输出的预期有效位数,您可以使用python中的内置舍入函数(在本例中为3)。

>>> round(0.017 * 3, 3)
0.051

答案 1 :(得分:2)

Python中的小数数字文字具有float类型,以二进制表示。使用Decimal类型进行基数10算术。

>>> from decimal import Decimal
>>> print(Decimal('0.017') * 3)
0.051