SQL Server和重复小数

Question

如何在计算中处理sql server中重复的小数位数？

例如：1/3 = 0.33333333333

但是当我在计算中再次使用它时，它会给我无效的数字

3 * 0.33333 = 0.9999999不是1

Answer 1

似乎是你在小数位上没有足够的精确度。

例如，请注意以下内容：

DECLARE @f float;

SET @f = 0.333333333333333;
SELECT @f * 3;
SET @f = 0.3333333333333333;
SELECT @f * 3;

注意第一个SELECT返回0.999999999999999，但第二个返回1。