我有一些位掩码,(2^63)-1
。但结果是不准确的。最后3个数字始终为0或替换为e18样式。
简单示例SQL:
SELECT
POW(2,63), /* 9.223372036854776e18 */
CAST(POW(2,63) AS DECIMAL(65)), /* 9223372036854776000 */
(POW(2,63) - 1), /* 9.223372036854776e18 */
CAST((POW(2,63) - 1) AS DECIMAL(65)) /* 9223372036854776000 */
答案 0 :(得分:5)
POW()返回"双精度"浮点数,只有53位尾数。您期望准确度达到64位。见http://dev.mysql.com/doc/refman/5.7/en/floating-point-types.html