Question

我正在进行计算，但我没有得到预期的答案。我在计算时失去了一些规模。

计算结果为：651/1000 * -413.72063274 = -269.33213191（至8 d.p）

在SQL Server中我这样做：

declare @var numeric(28,8)
declare @a numeric(28,8)
declare @b numeric(28,8)

set @var = -413.72063274
set @a   = 651.00000000
set @b   = 1000.00000000

select CAST((@a/@b) * @var as numeric(28,8)) as result_1
     , CAST(CAST(@a as numeric(28,8)) 
      /CAST(@b as numeric(28,8)) as numeric(28,8)) 
      *CAST(@var as numeric (28,8))   as result_2

结果是

result_1：-269.33213200（正确到6dp）
result_2：-269.332132（正确到6dp）

如何让查询返回：-269.33213191（正确到8dp）？

Answer 1

decimal到decimal转换乘法和除法are described in BOL的规则。

*结果精度和标度的绝对最大值为38. 结果精度大于38，相应的比例缩小为防止结果的组成部分被截断。

但未明确指出如何执行此类截断。 This is documented here。但有时候只是使用试错法更容易！

以下中级演员表可为您提供所需的结果。你能和那些人住在一起吗？

DECLARE @var NUMERIC(19,8)
DECLARE @a NUMERIC(19,8)
DECLARE @b NUMERIC(19,8)

SET @var = -413.72063274
SET @a   = 651.00000000
SET @b   = 1000.00000000

DECLARE @v SQL_VARIANT 
SET @v =  CAST(@a/@b AS NUMERIC(24,10))* CAST(@var AS NUMERIC(23,8))

SELECT    CAST(SQL_VARIANT_PROPERTY(@v, 'BaseType') AS VARCHAR(30)) AS BaseType,    
          CAST(SQL_VARIANT_PROPERTY(@v, 'Precision') AS INT) AS PRECISION,    
          CAST(SQL_VARIANT_PROPERTY(@v, 'Scale') AS INT) AS Scale

Answer 2

对于这种特殊情况，您可以先欺骗所有值并将最终结果与此乘数分开来作弊。

declare @var numeric(28,8)
declare @a numeric(28,8)
declare @b numeric(28,8)
declare @m numeric(28,8)

set @var = -413.72063274
set @a   = 651.00000000
set @b   = 1000.00000000
set @m   = 10000000


select CAST(((@a*@m) * (@var*@m) / (@b*@m)) AS NUMERIC(28, 8)) / @m 
-- Result: -269.3321319137

修改

另一方面，在不使用乘数
的情况下保持其精度
select CAST(@a * @var AS NUMERIC(28, 8)) / @b -- Result: -269.3321319140

Answer 3

你从分裂开始，然后繁殖。精度的损失在于分裂。这四舍五入为8 dp，结果乘以3位数（413）（因此缺少最后两位数字）

解决方案是对中间结果使用更大的精度，或者先进行乘法运算。

（@ a * @var）/ @b在数学上等于您的计算，但可能会给出更准确的结果。

执行计算时失去规模

3 个答案: