如何将小数传递给存储过程而不进行小数舍入?

时间:2012-09-26 03:59:52

标签: sql stored-procedures parameters user-defined-types

嘿,我有一个存储过程,我将参数传递给。参数类型为"结构化"并使用用户定义的表类型。表类型看起来像这个缩减版本。

CREATE TYPE dbo.LineItem_TYPE AS TABLE
(

UnitTrade numeric (22,4), 
TotalBuy numeric (22,4),
TotalSell numeric (22,4), 
GrossProfit numeric (22,4), 
QuoteReference varchar (255)
)

实际表与此匹配(相同的精度等),但舍入小数值。什么是错误的SQL大师?

2 个答案:

答案 0 :(得分:0)

检查您对此样本的使用方式。

CREATE TYPE dbo.LineItem_TYPE AS TABLE
(
    UnitTrade numeric (22,4), 
    TotalBuy numeric (22,4),
    TotalSell numeric (22,4), 
    GrossProfit numeric (22,4), 
    QuoteReference varchar (255)
);
GO
CREATE TABLE LineItem
(
    UnitTrade numeric (22,4), 
    TotalBuy numeric (22,4),
    TotalSell numeric (22,4), 
    GrossProfit numeric (22,4), 
    QuoteReference varchar (255)
);
GO
create proc dbo.uspInsertLineItem
@li dbo.LineItem_TYPE READONLY
AS
    set nocount on;
    insert LineItem
    select *
    FROM @li;
GO
declare @li dbo.LineItem_TYPE;
insert @li select
1.23451234,123456789.1111,10.50,1,'Quote1' union all select
999999999999999999.9999,1.1,2.2,null,'Quote1';
exec dbo.uspInsertLineItem @li;
GO
select * from LineItem

------- results

UnitTrade                TotalBuy        TotalSell  GrossProfit  QuoteReference
------------------------ --------------- ---------- ------------ ---------------
1.2345 ****              123456789.1111  10.5000    1.0000       Quote1
999999999999999999.9999  1.1000          2.2000     NULL         Quote1

您可以看到所有数字都忠实地存储到正确的小数位数,除了标有 * *的单数。我们将1.23451234放入@li,因为它是numeric(22,4),一进入用户类型就已经是1.2345了。见:

declare @li dbo.LineItem_TYPE;
insert @li (UnitTrade)
select 1.23451234;
select UnitTrade from @li

--------- result

UnitTrade
---------------------------------------
1.2345

答案 1 :(得分:-1)

您可以尝试变量类型float而不是numeric

另外,请确保将decimal / double变量传递给程序中的存储过程。