postgresql圆半下来功能

时间:2012-09-21 08:48:40

标签: postgresql floating-point plpgsql rounding floating-accuracy

PostgreSQL中的round(数字,整数)函数只能向上舍入:

round(cast (41.0255 as numeric),3) ==> 41.026

由于我们需要一个返回41.025的圆函数(非常令人惊讶)在PostgreSQL中没有这样的函数(我们使用的是9.1.5),我们编写了一个“包装器”函数,它在第一个版本中是非常天真和粗糙...但由于缺乏对plpgsql中此类问题的原生支持,我们没有找到更好的东西。

代码如下所示。问题是它对我们的目的来说太慢了。 你能建议一个更好的方法来处理这个任务吗?

以下是代码:

    CREATE OR REPLACE FUNCTION round_half_down(numeric,integer) RETURNS numeric 
    AS $$
    DECLARE
      arg ALIAS FOR $1;
      rnd ALIAS FOR $2;
      tmp1 numeric;
      res numeric;
    BEGIN
      tmp1:=arg;
      IF cast(tmp1 as varchar) ~ '5$'  THEN res:=trunc(arg,rnd);
      ELSE res:=round(arg,rnd);
      END IF;

      RETURN res;
    END;
    $$ LANGUAGE plpgsql;

我需要施放数值并使用正则表达式...这就是(我猜)杀死表演。

你知道吗:我们需要这个,因为我们必须比较存储在两个不同列(在两个不同的表上)但具有不同数值数据类型的数字:一个是double,一个是real。问题是当插入真实数据类型列时,PostgreSQL执行ROUND HALF DOWN,而它不通过其数学函数提供这样的选项!

编辑:
该功能实际上是错误的。是第一次快速重写,试图提高工作功能的性能,但速度很慢。

行为必须符合以下条件:
IF舍入的十进制数字为<=5 => trunc ELSE向上舍入。

一些例子:

select round_half_down(cast (41.002555 as numeric),3) -- 41.002 
select round_half_down(cast (41.002555 as numeric),4) -- 41.0025 
select round_half_down(cast (41.002555 as numeric),5) -- 41.00255 

而PostgreSQL中的round函数给出:

select round(cast (41.002555 as numeric),3) -- 41.003

6 个答案:

答案 0 :(得分:3)

一个方法非常快,无需创建一个新的FUNCTION,它可以向下舍入一半,如下所示:

- 上半场

round($n, 3)

- 下半轮

round($n-0.5, 3)

答案 1 :(得分:2)

  

我们必须比较存储在两个不同列中的数字   (在两个不同的表上)但具有不同的数字数据类型:一个是   双重,一个是真实的。

这应该非常快速和简单:

SELECT dp_col, real_col
FROM   tbl
WHERE  dp_col::real = real_col

基本上,只需将double precision号码转换为real进行比较。


如果这对您不起作用,则此 SQL函数应执行正确的作业并更快地

CREATE OR REPLACE FUNCTION round_half_down1(numeric, int)
  RETURNS numeric LANGUAGE sql AS
$func$
SELECT CASE WHEN abs($1%0.1^$2) < .6 * 0.1^$2 THEN
         trunc($1, $2)
    ELSE round($1, $2) END;
$func$

现在修正为负数,并在评论中输入@sufleR 您也可以使用包含的CASE表达式。

% .. modulo operator
^ .. exponentiation


以下是您可以用于基准测试的快速测试:

SELECT n                                   -- Total runtime: 36.524 ms
      ,round_half_down1(n,3)               -- Total runtime: 70.493 ms
      ,round_down_to_decimal_places(n,3)   -- Total runtime: 74.690 ms
      ,round_half_down(n,3)                -- Total runtime: 82.191 ms
FROM  (SELECT random()::numeric AS n FROM generate_series(1,10000)) x
WHERE  round_down_to_decimal_places(n,3)
    <> round_half_down1(n,3)

它还演示了@ Parveen的功能和编辑后的版本如何计算错误 - 他们trunc()他们不应该这样做。

答案 2 :(得分:2)

简单:

尝试使用此功能

CREATE OR REPLACE FUNCTION ROUND_HALF_DOWN(NUMERIC)
  RETURNS NUMERIC LANGUAGE SQL AS
$FUNC$
  SELECT CASE WHEN ($1%1) < 0.6 THEN FLOOR($1) ELSE CEIL($1) END;
$FUNC$

答案 3 :(得分:0)

create or replace function round_down_to_decimal_places(numeric,integer)
returns numeric stable language sql as $$ 

select
case
when $1 >= 0 then
case when $1 - round($1, 3) < 0 then round($1, 3) - 0.001 else 
round($1, 3) end
else
case when $1 - round($1, 3) > 0 then round($1, 3) + 0.001 else 
round($1, 3) end
end

$$;

您可以通过更改使用泛型(0.001为3位小数,0.0001为4位小数等),

OP编辑: @Parveel:我已经修改了你的功能,以使其以一般方式工作。

create or replace function round_half_down(numeric,integer)
returns numeric stable language sql as $$ 

select
case
when $1 >= 0 then
    case 
        when ($1 - round($1, $2)) < 0 then cast((round($1, $2) - (1.0/(10^$2))) as numeric) 
    else round($1, $2) end
else
    case 
        when ($1 - round($1, $2)) > 0 then cast((round($1, $2) + (1.0/(10^$2))) as numeric)
    else round($1, $2) end
end

$$;

答案 4 :(得分:0)

CREATE OR REPLACE FUNCTION public.round_half_down (numeric,integer)
RETURNS numeric AS
$body$
DECLARE
  arg ALIAS FOR $1;
  rnd ALIAS FOR $2;
  tmp1 numeric;
  res numeric;
  vra varchar;
  inta integer;
  ifa boolean;
 BEGIN
    tmp1:= arg;
    vra := substr(cast((arg - floor(arg)) as varchar),3);
    ifa := null;
    FOR i IN 1 .. length(vra) LOOP
        inta := CAST((substr(vra,i,1)) as integer);
        IF (i > rnd) THEN
            IF ((ifa is null) AND inta >= 6)THEN
                ifa := true;
            ELSE
                ifa := false;
            END IF;
        END IF;
    END LOOP;

    IF ifa THEN 
        res:=trunc(arg,rnd);
    ELSE 
        res:=round(arg,rnd);
    END IF;
    RETURN res;
END;
END;
$body$
LANGUAGE 'plpgsql'
VOLATILE
CALLED ON NULL INPUT
SECURITY INVOKER
COST 100;

试试这个希望可以帮助你

答案 5 :(得分:0)

这是一个更简单的方法

CREATE OR REPLACE FUNCTION roundHalfDown(value NUMERIC, prec INTEGER)
RETURNS NUMERIC AS $$
BEGIN
  RETURN trunc(value * 10^prec + 0.5 - 0.000000001) / 10^prec;
END
$$ LANGUAGE 'plpgsql';