Question

这是您可以在口译员中尝试的方法，有人可以解释一下为什么吗？注意：此问题与Is floating point math broken?不同，因为我的答案虽然差不多，但仍然很遥远，我的问题是十进制，而不是内置浮点数。

from decimal import getcontext, Decimal
a = Decimal(".110001"+"0"*17+"1"+"0"*95+"1"+"0"*599+"1"+"0"*4319+"1")
b = Decimal(".220002"+"0"*17+"2"+"0"*95+"2"+"0"*599+"2"+"0"*4319+"2")
b-a == a # Returns False while it should be True
b-a-a # Returns Decimal('-1.000000000000000000000000000E-120')

Answer 1

默认的Decimal精度为28位小数，因此您正在丢失数据，b - a为0.1100010000000000000000010000。您可以使用getcontext().prec

进行设置

a = Decimal(".110001" + "0" * 17 + "1" + "0" * 95 + "1" + "0" * 599 + "1" + "0" * 4319 + "1")
b = Decimal(".220002" + "0" * 17 + "2" + "0" * 95 + "2" + "0" * 599 + "2" + "0" * 4319 + "2")
getcontext().prec = max(len(str(a)), len(str(a)))
print(b-a == a) # True

Python十进制给出错误的答案

1 个答案: