Question

我正在将我的R代码从data.frame + plyr更改为data.table，因为我需要一种更快，更节省内存的方法来处理大数据集。不幸的是，我的R技能非常有限，而且我整天都遇到了问题。如果这里的SO专家可以启发，我们将不胜感激。

我的目标

基于2个函数（平均值和最大值）在我的data.table中聚合行在所选列上运行（列名通过向量传递），而按列分组也通过向量传递。
生成的DT应包含原始列名。
为了节省内存，应该不是不必要的DT复制

我的测试代码

DT = data.table( a=LETTERS[c(1,1,1:4)],b=4:9, c=3:8, d = rnorm(6), 
                 e=LETTERS[c(rep(25,3),rep(26,3))], key="a" )

GrpVar1 <- "a"
GrpVar2 <- "e"
VarToMax <- "b"
VarToAve <- c( "c", "d")

我尝试了但不适合我

DT[, list( b=max( b ), c=mean(c), d=mean(d) ), by=c( GrpVar1, GrpVar2 ) ]  
# Hard-code col name - not what I want

DT[, list( max( get(VarToMax) ), mean( get(VarToAve) )), by=c( GrpVar1, GrpVar2 ) ]  
# Col names become 'V1', 'V2', worse, 1 column goes missing - Not what I want either

DT[, list( get(VarToMax)=max( get(VarToMax) ), 
           get(VarToAve)=mean( get(VarToAve) ) ), by=c( GrpVar1, GrpVar2 ) ]
# Above code gave Error!

其他问题

基于我对DT的非常有限的理解，with = F参数应该指示R解析VarToMax和VarToAve的值，但运行下面的代码会导致错误。

DT[, list( max(VarToMax), mean(VarToAve) ), by=c( GrpVar1, GrpVar2 ), with=F ]

# Error in `[.data.table`(DT, , list(max(VarToMax), mean(VarToAve)), by = c(GrpVar1,  : 
#   object 'ansvals' not found
# In addition: Warning message:
# In mean.default(VarToAve) :
#   argument is not numeric or logical: returning NA

现有的SO解决方案无法帮助

Arun的solution就是我如何达到这一点，但我很困难。他使用lapply和.SDcols的其他solution涉及创建2个额外的DT，这不符合我的内存保存要求。

dt1 <- dt[, lapply(.SD, sum), by=ID, .SDcols=c(3,4)]
dt2 <- dt[, lapply(.SD, head, 1), by=ID, .SDcols=c(2)]

我对data.table很困惑！任何帮助都将非常感激！

Answer 1

与@David Arenburg类似，但使用.SDcols来简化表示法。我也会在合并之前显示代码。

DTaves <- DT[, lapply(.SD, mean), .SDcols = VarToAve, by = c(GrpVar1, GrpVar2)]
DTmaxs <- DT[, lapply(.SD, max), .SDcols = VarToMax, by = c(GrpVar1, GrpVar2)]
merge(DTmaxs, DTaves)
##    a e b c          d
## 1: A Y 6 4  0.2230091
## 2: B Z 7 6  0.5909434
## 3: C Z 8 7 -0.4828223
## 4: D Z 9 8 -1.3591240

或者，您可以通过对.SD进行分项并使用with = FALSE

一次性完成此操作

DT[, c(lapply(.SD[, VarToAve, with=FALSE], mean), 
       lapply(.SD[, VarToMax, with=FALSE], max)), 
   by = c(GrpVar1, GrpVar2)]
##    a e c          d b
## 1: A Y 4  0.2230091 6
## 2: B Z 6  0.5909434 7
## 3: C Z 7 -0.4828223 8
## 4: D Z 8 -1.3591240 9

Answer 2

这是我的卑微尝试

DT[, as.list(c(setNames(max(get(VarToMax)), VarToMax), 
               lapply(.SD[, VarToAve, with = FALSE], mean))), 
     c(GrpVar1, GrpVar2)]    
#    a e b c          d
# 1: A Y 6 4 -0.8000173
# 2: B Z 7 6  0.2508633
# 3: C Z 8 7  1.1966517
# 4: D Z 9 8  1.7291615

或者，为了获得最高效率，您可以使用colMeans和eval(as.name())组合代替lapply和get

DT[, as.list(c(setNames(max(eval(as.name(VarToMax))), VarToMax), 
             colMeans(.SD[, VarToAve, with = FALSE]))), 
     c(GrpVar1, GrpVar2)]   
#    a e b c          d
# 1: A Y 6 4 -0.8000173
# 2: B Z 7 6  0.2508633
# 3: C Z 8 7  1.1966517
# 4: D Z 9 8  1.7291615

R - 如何运行平均值＆amp;基于多个因素的不同data.table列的最大值和返回原始的colnames

2 个答案: