Question

在我的python代码中，我使用十进制模块，因为我需要非常高的精度。

我有变量 a ， b 和 c ，其中 c = a / b 。

我让python打印出以下内容：

print "a: %.50f:" % (a),type(a)
print "b: %.50f:" % (b),type(b)
print "c: %.50f:" % (c),type(c)

产生了。

a: 0.00000006480000292147666645492911155490567409742653: <class 'decimal.Decimal'>
b: 43200001.94765111058950424194335937500000000000000000000000 <class 'decimal.Decimal'>
c: 0.00000000000000149999999999999991934287350973866750 <class 'decimal.Decimal'>

这很好，但是为了检查 c 的值，我进入了Python的交互模式并直接复制并粘贴了这些数字：

a = decimal.Decimal('0.00000006480000292147666645492911155490567409742653')
b = decimal.Decimal('43200001.94765111058950424194335937500000000000000000000000')

当我要求 a / b 时，我得到：

Decimal('1.500000000000000013210016734E-15')

这是一个略有不同的结果！我知道浮点问题会导致像这样的小错误，但这就是我使用十进制模块的原因。

有谁能告诉我这两个答案的差异来自哪里？

Answer 1

使用字符串格式打印值时（使用print "a: %.50f:" % (a),type(a)），隐式将它们转换为浮点数！

你应该依赖小数的打印功能，即从中请求一个字符串：

print "a: %s:" % (a, type(a))
print "b: %s:" % (b, type(b))
print "c: %s:" % (c, type(c))

Answer 2

使用format方法代替%来格式化Decimal值：

>>> c = Decimal('1.500000000000000013210016734E-15')
>>> print "c: %.50f" % c    # incorrect, conversion to float
c: 0.00000000000000149999999999999991934287350973866750
>>> print "c: {:.50f}".format(c)    # correct, no conversion
c: 0.00000000000000150000000000000001321001673400000000

正如您所看到的，错误源于使用%格式化隐式地将c转换为浮点数。

Python十进制模块不一致

2 个答案: