SQL UDF:浮点错误

时间:2013-08-30 08:00:12

标签: sql-server

我刚刚编写了一个SQL函数,如下所示

Create Function LAeq(@Frequency Decimal(18,2), @Sound Decimal(18,2)) 
 RETURNS DECIMAL(18,2)
 AS
 BEGIN
declare @T1 Decimal (28, 10)
DECLARE @T2 Decimal (28, 10)
DECLARE @T3 Decimal (28, 10)
DECLARE @T4 Decimal (28, 10)
DECLARE @T5 Decimal (28, 10)
DECLARE @T6 Decimal (28, 10)
DECLARE @T7 Decimal (28, 10)

SET @T1 = POWER(12200.0,2) * POWER(@Frequency, 4)
SET @T2 = POWER (@Frequency, 2) + POWER(20.6,2)
SET @T3 = POWER (@Frequency, 2) + POWER(107.7,2)
SET @T4 = POWER (@Frequency, 2) + POWER(737.9,2)
SET @T5 = POWER (@Frequency, 2) + POWER(12200.0,2)
SET @T6 = SQRT(@T3 *@T4) * @T5 * @T2
SET @T7 = @T1/ @T6
SET @T7 = @Sound + (2.0 + (20.0 * LOG10(@T7)))
RETURN @T7
END

如果我传递值0.8,26,则此功能有效。但是当我的值为20000,80时,它会失败。我的函数应该对频率最大为20K,而声音可以小于100作为最大值。我尝试将T1,T7从十进制(28,10)更改为30,15或18,2,但对我来说没有任何作用。我不想像使用与

相同的公式编写SQL语句时那样定义数据类型的限制
Select 26 + (2 + (20 * LOG10((POWER(12200,2) * POWER(0.8, 4))/ (SQRT((POWER (0.8, 2) + POWER(107.7,2)) * (POWER (0.8, 2) + POWER(737.9,2))) * (POWER (0.8, 2) + POWER(12200,2)) * (POWER (0.8, 2) + POWER(20.6,2)))))) 

OR

Select 80 + (2 + (20 * LOG10((POWER(12200,2) * POWER(20000.00, 4))/ (SQRT((POWER (20000.00, 2) + POWER(107.7,2)) * (POWER (20000.00, 2) + POWER(737.9,2))) * (POWER (20000.00, 2) + POWER(12200,2)) * (POWER (20000.00, 2) + POWER(20.6,2))))))

它比我的功能更好,更准确。我可以在功能中消除数据类型的需要吗?如果不能如何确保最大准确度?

感谢。

1 个答案:

答案 0 :(得分:1)

我会使用float而不是decimal作为输入参数和局部变量的数据类型,这不应该导致合理输入值的溢出。