SQL不准确的数字

时间:2015-12-15 08:45:49

标签: mysql sql

我有一些位掩码,(2^63)-1。但结果是不准确的。最后3个数字始终为0或替换为e18样式。

简单示例SQL:

SELECT
    POW(2,63), /* 9.223372036854776e18 */
    CAST(POW(2,63) AS DECIMAL(65)), /* 9223372036854776000 */
    (POW(2,63) - 1), /* 9.223372036854776e18 */
    CAST((POW(2,63) - 1) AS DECIMAL(65)) /* 9223372036854776000 */

1 个答案:

答案 0 :(得分:5)

POW()返回"双精度"浮点数,只有53位尾数。您期望准确度达到64位。见http://dev.mysql.com/doc/refman/5.7/en/floating-point-types.html