Python的“浮点”类型和PostgreSQL的“双精度”类型是否基于相同的C实现?这可能不是真正的潜在问题,但无论如何,这是我在两种环境中尝试操作小数字时得到的结果:
在Python上(2.7.2 GCC 4.2.1,如果相关):
>>> float('1e-310')
1e-310
在PostgreSQL(9.1.1)上:
postgres# select 1e-310::double precision;
ERROR: "0.0000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000001" is out of range for type double precision
据我所知,Python float类型“处理”1e-310而PostgreSQL双精度类型则不然。 Python和PostgreSQL文档分别为“float”和“double precision”类型,参考IEEE 754标准,该标准应该在“大多数平台”上实现(我在OS X Lion 10.7.3)。
有人能解释一下这里发生了什么吗?并给我一个解决方案,我想要“减少”Python精度,以便我可以通过Django FloatField在我的数据库中插入浮点数。 (完整的用例是我正在从文件中读取数据然后插入它们。)
Python中的一些(可能很有趣的)附加信息:
>>> sys.float_info
sys.float_info(max=1.7976931348623157e+308, max_exp=1024, max_10_exp=308, min=2.2250738585072014e-308, min_exp=-1021, min_10_exp=-307, dig=15, mant_dig=53, epsilon=2.220446049250313e-16, radix=2, rounds=1)
>>> 1e-320.__sizeof__()
24
我真的没有得到第二个。
答案 0 :(得分:8)
值float('1e-310')是denormal number,它超出了53位浮点数(+308到-308)的通常指数范围,所以它的存储精度较低,以便实现逐步下溢。
似乎PostgreSQL有一些未解决的非正规问题:http://archives.postgresql.org/pgsql-hackers/2011-06/msg00885.php
对于接近零的值,请考虑在存储到DB之前对它们进行舍入:
>>> round(float('1e-302'), 308)
1e-302
>>> round(float('1e-310'), 308)
0.0