有人可以帮助我了解在数据集中有行的情况下regr_slope
返回NULL的情况吗?例如:
log=> select * from sb1 order by id, ts;
id | elapsed | ts
------+---------+----------------
317e | 86 | 1552861322.627
317e | 58 | 1552861324.747
317e | 52 | 1552861325.722
317e | 58 | 1552861326.647
317e | 82 | 1552861327.609
317e | 118 | 1552861328.514
317e | 58 | 1552861329.336
317e | 58 | 1552861330.317
317e | 54 | 1552861330.935
3441 | 68 | 1552861324.765
3441 | 84 | 1552861326.665
3441 | 56 | 1552861327.627
3441 | 50 | 1552861330.952
5fe6 | 42 | 1552993248.398
5fe6 | 44 | 1552993255.883
5fe6 | 44 | 1553166049.261
c742 | 62 | 1552861322.149
c742 | 68 | 1552861322.455
(18 rows)
log=> select id, regr_slope(elapsed, ts) as trend from sb1 group by id;
id | trend
------+----------------------
c742 |
317e |
5fe6 | 5.78750952760444e-06
3441 |
(4 rows)
有趣的是,相同的数据集和函数在Oracle 11.2中返回不同的结果:
SQL> select * from sb1 order by id, ts;
ID ELAPSED TS
---------- ---------- ----------------
317e 86 1552861322.627
317e 58 1552861324.747
317e 52 1552861325.722
317e 58 1552861326.647
317e 82 1552861327.609
317e 118 1552861328.514
317e 58 1552861329.336
317e 58 1552861330.317
317e 54 1552861330.935
3441 68 1552861324.765
3441 84 1552861326.665
3441 56 1552861327.627
3441 50 1552861330.952
5fe6 42 1552993248.398
5fe6 44 1552993255.883
5fe6 44 1553166049.261
c742 62 1552861322.149
c742 68 1552861322.455
18 rows selected.
SQL> select id, regr_slope(elapsed, ts) from sb1 group by id;
ID REGR_SLOPE(ELAPSED,TS)
---------- ----------------------
c742 19.6078431
5fe6 5.7875E-06
317e -1.0838511
3441 -3.8283951
尽管5fe6
的结果相同,我不知道这是否意味着Postgres,Oracle或两者都不存在。
答案 0 :(得分:2)
深入研究代码后,我得到了答案:
问题在于,在这种情况下,PostgreSQL到v12的天真的方法会导致不必要的大舍入错误。
让我们考虑一下id = 'c742'
:
regr_slope
的公式如下:
regr_slope
:=( N ⋅Σ( X i ⋅ Y i )-Σ X i ⋅Σ Y i )/( N ⋅Σ( X i < / em> 2 )-Σ X i ⋅Σ X i )
问题出在除数中
SELECT 2::float8 * (1552861322.149::float8 * 1552861322.149::float8 +
1552861322.455::float8 * 1552861322.455::float8) -
(1552861322.149::float8 + 1552861322.455::float8) *
(1552861322.149::float8 + 1552861322.455::float8);
?column?
----------
-2048
(1 row)
由于结果为负,因此PostgreSQL返回NULL结果。
使用精确计算(使用numeric
)不会发生这种情况:
SELECT 2 * (1552861322.149 * 1552861322.149 +
1552861322.455 * 1552861322.455) -
(1552861322.149 + 1552861322.455) *
(1552861322.149 + 1552861322.455);
?column?
----------
0.093636
(1 row)
自PostgreSQL提交e954a727f0c8872bf5203186ad0f5312f6183746以来,情况得到了改善,在PostgreSQL v12中,PostgreSQL还返回了正确的结果:
select id, regr_slope(elapsed, ts) from sb1 group by id;
id | regr_slope
------+-----------------------
c742 | 19.607858781290517
317e | -1.0838511987808963
5fe6 | 5.787509483586743e-06
3441 | -3.828395463097356
(4 rows)
答案 1 :(得分:1)
事实证明,这是由于我的x轴值较大而导致的Sxx值计算错误。如果有兴趣,请here进行说明。
因为我的x值是从extract(epoch from tstz_col)
派生的,所以我很容易减去“基本”值,因此Sxx计算不会溢出。例如:
log=> select id, regr_slope(elapsed, ts - extract(epoch from now())) as trend from sb1 group by id;
id | trend
------+----------------------
c742 | 19.5839996337891
317e | -1.08384865545836
5fe6 | 5.78750948360273e-06
3441 | -3.82839498627572
(4 rows)
结果与Oracle返回的结果不完全相同,但是我只是在寻找一个“趋势”,因此对我来说很好。
H。