使用Convert Sql Server进行分区

时间:2012-12-12 20:59:13

标签: sql sql-server

  

可能重复:
  Precision, Scale, Sum, Divide.. Truncation

我有一个问题。我编写了一个函数,但是当我使用convert分割2个数字时,我遇到了一些问题。这是一个例子:

Declare @A Numeric(18,6)
Declare @B Numeric(18,6)

Set @A = 1
Set @B = 130

如果我执行以下查询,结果为:0.007692307692307692

Select Convert(Decimal(30,18),@A / @B)

但如果我这样做,结果是:0.007692300000000000(丢失小数)

Select Convert(Decimal(30,18),Convert(Decimal(30,18),@A) / Convert(Decimal(30,18),@B))

如果我使用相同的精度和音阶,有人可以解释为什么我会丢失小数?

0 个答案:

没有答案