如何在R中模拟SQL“分区依据”?

时间:2012-07-12 06:38:39

标签: sql r data.table dplyr dense-rank

如何在R数据帧上执行分析函数,如Oracle ROW_NUMBER(),RANK()或DENSE_RANK()函数(请参阅http://www.orafaq.com/node/55)? CRAN包“plyr”非常接近,但仍然不同。

我同意每个功能的功能都可以以临时方式实现。但我主要担心的是表现。为了记忆和速度,最好避免使用连接或索引访问。

5 个答案:

答案 0 :(得分:28)

data.table包,特别是从1.8.1版本开始,提供了SQL术语中的大部分分区功能。 R中的rank(x, ties.method = "min")类似于Oracle RANK(),并且有一种方法可以使用因子(如下所述)来模仿DENSE_RANK()函数。模仿ROW_NUMBER的方法最后应该是显而易见的。

以下是一个示例:从R-Forge加载最新版本的data.table

install.packages("data.table",
  repos= c("http://R-Forge.R-project.org", getOption("repos")))

library(data.table)

创建一些示例数据:

set.seed(10)

DT<-data.table(ID=seq_len(4*3),group=rep(1:4,each=3),value=rnorm(4*3),
  info=c(sample(c("a","b"),4*2,replace=TRUE),
  sample(c("c","d"),4,replace=TRUE)),key="ID")

> DT
    ID group       value info
 1:  1     1  0.01874617    a
 2:  2     1 -0.18425254    b
 3:  3     1 -1.37133055    b
 4:  4     2 -0.59916772    a
 5:  5     2  0.29454513    b
 6:  6     2  0.38979430    a
 7:  7     3 -1.20807618    b
 8:  8     3 -0.36367602    a
 9:  9     3 -1.62667268    c
10: 10     4 -0.25647839    d
11: 11     4  1.10177950    c
12: 12     4  0.75578151    d

ID内减少value,对每个group进行排名(注意-前面的value表示递减顺序):

> DT[,valRank:=rank(-value),by="group"]
    ID group       value info valRank
 1:  1     1  0.01874617    a       1
 2:  2     1 -0.18425254    b       2
 3:  3     1 -1.37133055    b       3
 4:  4     2 -0.59916772    a       3
 5:  5     2  0.29454513    b       2
 6:  6     2  0.38979430    a       1
 7:  7     3 -1.20807618    b       2
 8:  8     3 -0.36367602    a       1
 9:  9     3 -1.62667268    c       3
10: 10     4 -0.25647839    d       3
11: 11     4  1.10177950    c       1
12: 12     4  0.75578151    d       2

对于在排名值中具有联系的DENSE_RANK(),您可以将值转换为因子,然后返回基础整数值。例如,根据ID中的info对每个group进行排名(将infoRankinfoRankDense进行比较):

DT[,infoRank:=rank(info,ties.method="min"),by="group"]
DT[,infoRankDense:=as.integer(factor(info)),by="group"]

R> DT
    ID group       value info valRank infoRank infoRankDense
 1:  1     1  0.01874617    a       1        1             1
 2:  2     1 -0.18425254    b       2        2             2
 3:  3     1 -1.37133055    b       3        2             2
 4:  4     2 -0.59916772    a       3        1             1
 5:  5     2  0.29454513    b       2        3             2
 6:  6     2  0.38979430    a       1        1             1
 7:  7     3 -1.20807618    b       2        2             2
 8:  8     3 -0.36367602    a       1        1             1
 9:  9     3 -1.62667268    c       3        3             3
10: 10     4 -0.25647839    d       3        2             2
11: 11     4  1.10177950    c       1        1             1
12: 12     4  0.75578151    d       2        2             2

P.S。嗨Matthew Dowle。


LEAD和LAG

对于模仿LEAD和LAG,请从提供的答案here开始。我会根据组内ID的顺序创建一个排名变量。对于上面的假数据,这不是必需的,但如果ID在组内不按顺序排列,那么这将使生活变得更加困难。所以这里有一些带有非顺序ID的新假数据:

set.seed(10)

DT<-data.table(ID=sample(seq_len(4*3)),group=rep(1:4,each=3),value=rnorm(4*3),
  info=c(sample(c("a","b"),4*2,replace=TRUE),
  sample(c("c","d"),4,replace=TRUE)),key="ID")

DT[,idRank:=rank(ID),by="group"]
setkey(DT,group, idRank)

> DT
    ID group       value info idRank
 1:  4     1 -0.36367602    b      1
 2:  5     1 -1.62667268    b      2
 3:  7     1 -1.20807618    b      3
 4:  1     2  1.10177950    a      1
 5:  2     2  0.75578151    a      2
 6: 12     2 -0.25647839    b      3
 7:  3     3  0.74139013    c      1
 8:  6     3  0.98744470    b      2
 9:  9     3 -0.23823356    a      3
10:  8     4 -0.19515038    c      1
11: 10     4  0.08934727    c      2
12: 11     4 -0.95494386    c      3

然后,要获取前一条记录的值,请使用groupidRank变量并从1中减去idRank并使用multi = 'last'论点。要从上面的记录两个条目中获取值,请减去2

DT[,prev:=DT[J(group,idRank-1), value, mult='last']]
DT[,prev2:=DT[J(group,idRank-2), value, mult='last']]

    ID group       value info idRank        prev      prev2
 1:  4     1 -0.36367602    b      1          NA         NA
 2:  5     1 -1.62667268    b      2 -0.36367602         NA
 3:  7     1 -1.20807618    b      3 -1.62667268 -0.3636760
 4:  1     2  1.10177950    a      1          NA         NA
 5:  2     2  0.75578151    a      2  1.10177950         NA
 6: 12     2 -0.25647839    b      3  0.75578151  1.1017795
 7:  3     3  0.74139013    c      1          NA         NA
 8:  6     3  0.98744470    b      2  0.74139013         NA
 9:  9     3 -0.23823356    a      3  0.98744470  0.7413901
10:  8     4 -0.19515038    c      1          NA         NA
11: 10     4  0.08934727    c      2 -0.19515038         NA
12: 11     4 -0.95494386    c      3  0.08934727 -0.1951504

对于LEAD,将适当的偏移量添加到idRank变量并切换到multi = 'first'

DT[,nex:=DT[J(group,idRank+1), value, mult='first']]
DT[,nex2:=DT[J(group,idRank+2), value, mult='first']]

    ID group       value info idRank        prev      prev2         nex       nex2
 1:  4     1 -0.36367602    b      1          NA         NA -1.62667268 -1.2080762
 2:  5     1 -1.62667268    b      2 -0.36367602         NA -1.20807618         NA
 3:  7     1 -1.20807618    b      3 -1.62667268 -0.3636760          NA         NA
 4:  1     2  1.10177950    a      1          NA         NA  0.75578151 -0.2564784
 5:  2     2  0.75578151    a      2  1.10177950         NA -0.25647839         NA
 6: 12     2 -0.25647839    b      3  0.75578151  1.1017795          NA         NA
 7:  3     3  0.74139013    c      1          NA         NA  0.98744470 -0.2382336
 8:  6     3  0.98744470    b      2  0.74139013         NA -0.23823356         NA
 9:  9     3 -0.23823356    a      3  0.98744470  0.7413901          NA         NA
10:  8     4 -0.19515038    c      1          NA         NA  0.08934727 -0.9549439
11: 10     4  0.08934727    c      2 -0.19515038         NA -0.95494386         NA
12: 11     4 -0.95494386    c      3  0.08934727 -0.1951504          NA         NA

答案 1 :(得分:4)

来自data.table v1.9.5+,已实施功能frank()快速排名)。 frank()在交互式方案中很有用,因为frankv()允许轻松编程。

它实现base::rank中可用的每个操作。此外,优点是:

  • frank() atomic之外,还对 list data.frames data.tables 进行操作载体

  • 我们可以为每列指定是否应按递增或递减顺序计算 rank

  • 除了dense中的其他类型外,它还实现了排名类型base

  • 您也可以在字符列上使用-按降序排名。

以下是使用来自@ BenBarnes&#39;的相同 data.table DT的所有上述观点的说明。 (优秀)发帖。

数据:

require(data.table)
set.seed(10)
sample_n <- function(x, n) sample(x, n, replace=TRUE)
DT <- data.table(
        ID = seq_len(4*3),
        group = rep(1:4,each=3),
        value = rnorm(4*3),
        info = c(sample_n(letters[1:2], 8), sample_n(letters[3:4], 4)))

在单列上:

  • 计算dense排名:

    DT[, rank := frank(value, ties.method="dense"), by=group]
    

您还可以使用其他方法minmaxrandomaveragefirst

  • 按降序排列:

    DT[, rank := frank(-value, ties.method="dense"), by=group]
    
  • 使用frankv,类似于frank

    # increasing order
    frankv(DT, "value", ties.method="dense")
    
    # decreasing order
    frankv(DT, "value", order=-1L, ties.method="dense")
    

在多列

您可以使用.SD代表数据子集,并包含与 组对应的数据。有关.SD的更多信息,请参阅Introduction to data.table HTML vignette

  • info, value分组时按group列排名:

    DT[, rank := frank(.SD,  info, value, ties.method="dense"), by=group]
    
  • 使用-指定递减顺序:

    DT[, rank := frank(.SD,  info, -value, ties.method="dense"), by=group]
    
  • 您也可以直接在字符列

    上使用-
    DT[, rank := frank(.SD, -info, -value, ties.method="dense"), by=group]
    

您可以类似地使用frankv并提供cols参数列以及使用order参数对列进行排序的顺序。


base::rank进行比较的小基准:

set.seed(45L)
x = sample(1e4, 1e7, TRUE)
system.time(ans1 <- base::rank(x, ties.method="first"))
#    user  system elapsed 
#  22.200   0.255  22.536 
system.time(ans2 <- frank(x, ties.method="first"))
#    user  system elapsed 
#   0.745   0.014   0.762 
identical(ans1, ans2) # [1] TRUE

答案 2 :(得分:3)

我喜欢 data.table 和下一个人一样,但并不总是必要的。 data.table 总是会更快,但即使对于中等大小的数据集,如果的数量相当小, plyr 仍会充分执行

BenBarnes使用data.table做的事情可以像使用 plyr 一样紧凑地完成(但我之前注意到,在许多情况下可能会更慢):

library(plyr)                
ddply(DT,.(group),transform,valRank = rank(-value))
ddply(DT,.(group),transform,valRank = rank(info,ties.method = "min"),
                            valRankDense = as.integer(factor(info)))

甚至根本没有加载一个额外的包:

do.call(rbind,by(DT,DT$group,transform,valRank = rank(-value)))
do.call(rbind,by(DT,DT$group,transform,valRank = rank(info,ties.method = "min"),
                                        valRankDense = as.integer(factor(info))))

尽管你在最后一种情况下确实失去了一些句法细节。

答案 3 :(得分:0)

Dplyr现在具有Windows功能,包括row_number和density_rank:https://dplyr.tidyverse.org/reference/ranking.html

df <- tibble::tribble(
~subjects,        ~date, ~visits, 
     1L, "21/09/1999",      2L, 
     1L, "29/04/1999",      4L, 
     2L, "18/02/1999",     15L, 
     3L, "10/07/1999",     13L, 
     4L, "27/08/1999",      7L, 
     7L, "27/10/1999",     14L, 
    10L, "18/04/1999",      8L, 
    13L, "27/09/1999",     14L, 
    14L, "15/09/1999",      6L, 
    16L, "27/11/1999",     14L, 
    20L, "06/02/1999",      4L, 
    22L, "07/09/1999",     12L, 
    23L, "24/03/1999",     14L, 
    24L, "19/01/1999",      7L, 
 )

请注意,与ROW_NUMBER()SQL代码不同,不需要规定ORDER BY。

df_partition <- df %>% 
  group_by(subjects) %>% # group_by is equivalent to GROUP BY in the SQL partition 
ROW_NUMBER()
  mutate(rn = row_number(visits),
         rn_reversed = row_number(desc(visits))) %>% 
ungroup() %>% # grouping by subjects remains on data unless removed like this
  mutate(dense_rank = dense_rank(visits))

答案 4 :(得分:-5)

我认为没有直接等同于Oracle的分析功能。 Plyr可能能够实现一些分析功能,但不是全部直接实现。我确信R可以单独复制每个功能,但我认为没有一个包可以完成所有功能。

如果你需要在R中进行特定的操作,那就做一些谷歌搜索,如果你空了,请在StackOverflow上询问一个特定的问题。