在python中将float转换为long

时间:2011-09-08 12:43:56

标签: python integer long-integer

我有一个函数fac(n)返回n!,我将它与gamma(n + 1)进行比较

>>> from math import gamma
>>> gamma(101)-fac(100)
0.0
>>> math.floor(gamma(101))-fac(100)
0.0
>>> long(gamma(101))-fac(100)
-1716052534060312817912314997891197522637580074354635372754659484313875350886868191008427848256820699487696649234627144617147818134104040275968L

gamma(101)= 100!并且是一个整数。

为什么结果不同?

2 个答案:

答案 0 :(得分:6)

由于浮点类型的精度有限,并且由于减法运算符将其操作数强制为相同类型的方式,结果也不同。 gamma函数返回一个浮点数,因此无法为这么大的数字返回准确的答案。 This page对问题进行了很好的描述。

gamma(101)-fac(100)中,fac(100)项在减法运算之前转换为浮点数。

>>> gamma(101)
9.332621544394415e+157
>>> float(fac(100))
9.332621544394415e+157

适合浮动的fac(100)的(最重要的)部分与gamma(101)匹配,因此减法结果为0.0

对于第二次测试,gamma(101)没有小数部分,因此math.floor无效:

>>> math.floor(gamma(101)) == gamma(101)
True

gamma(101)转换为长整数时,您可以清楚地看到它不准确:

>>> long(gamma(101))
933262154439441509656467047959538825784009703731840988
310128895405822272385704312950661130892883272778258496
64006524270554535976289719382852181865895959724032L
>>> fac(100)
933262154439441526816992388562667004907159682643816214
685929638952175999932299156089414639761565182862536979
20827223758251185210916864000000000000000000000000L

答案 1 :(得分:2)

浮点数不具有无限精度,将它们转换为long将无法获得完全准确的结果。您看到的差异是gamma(101)的浮点表示与其实际整数值之间的差异。