python十进制精度

Question

由于某种原因，十进制对象在乘以时会失去精度。没有理由这样发生。请检查测试用例并启发我。

from decimal import *
getcontext().prec = 11

a = Decimal('5085.28725881485')
b = 1

print getcontext()
print 'a     = '+str(a)
print 'b     = '+str(b)
print 'a * b = '+str(a * b)

输出：

Context(prec=11, rounding=ROUND_HALF_EVEN, Emin=-999999999, Emax=999999999, capitals=1, flags=[], traps=[DivisionByZero, InvalidOperation, Overflow])
a     = 5085.28725881485
b     = 1
a * b = 5085.2872588

不确定这是否相关，但是使用了python2.6。

Answer 1

您在上下文中指定的精度（11个位置）仅在执行计算时应用，而不是在创建decimal.Decimal对象时应用 - 并且结果5085.2872588确实遵守该精度限制。使用1作为乘数不会改变关于精度的规则;算术运算的结果总是考虑精度。

如果您正在寻找decimal.Decimal来返回四舍五入到特定位数的数字，则上下文对象的create_decimal方法将为您执行此操作。