对于浮点数据类型,15位数的精确度究竟是什么意思?

时间:2011-06-29 14:18:27

标签: sql-server sql-server-2005

根据http://msdn.microsoft.com/en-us/library/ms173773.aspx

浮动是约。数据类型。

但同样在文章中提到浮点数的精度为15位。

15位精度究竟是什么意思?

2 个答案:

答案 0 :(得分:2)

这意味着前15位数字大致正确。由于IEEE 754,有许多数字无法准确表示,但您可以确定前15位非常接近。

答案 1 :(得分:1)

您的数字是精确的15位数。这意味着如果你计算某些东西并将结果存储为浮点数,你可以确定前15位数是正确的结果。之后他们可能(通常也不是)。