R行表示按组(或唯一ID)在多个列上

时间:2012-06-13 03:26:12

标签: r aggregate data.table mean

我有一个如下所示的数据框(20,000行乘49列)。每行具有唯一的名称(ID),每个ID在3列中具有3个重复读数(例如D15C D15C.1 D15C.2)。组合名称的前4个字母(“D15C”)是组名。我需要按组名称对列进行平均(例如,平均D15C,D15C.1和D15.2得到D15C),因此最终表将合并为49列中的16列。

          ID  D04C D04C.1  D08H D08H.1 D08H.2  D15C D15C.1 D15C.2  D15L D15L.1 D15L.2
1 1367452_at 11.11  10.93 11.85  10.94  10.87 10.73  10.62  10.85 10.73  10.77  10.52   
2 1367453_at  9.65   9.94  9.78   9.68   9.67  9.86   9.71   9.82  9.74   9.71   9.76   
3 1367454_at 10.19  10.36  9.68  10.07  10.08 10.35  10.26  10.32 10.27  10.19  10.47   
(… 20000 rows)                                              

我将其转置并编辑到以下数据框以便使用聚合:

      ID 1367452_at 1367453_at 1367454_at ... ...
1   D04C      11.11       9.65      10.19
2   D04C      10.93       9.94      10.36
3   D08H      11.85       9.78       9.68
4   D08H      10.94       9.68      10.07
5   D08H      10.87       9.67      10.08
6   D15C      10.73       9.86      10.35
7   D15C      10.62       9.71      10.26
8   D15C      10.85       9.82      10.32
9   D15L      10.73       9.74      10.27
10  D15L      10.77       9.71      10.19
11  D15L      10.52       9.76      10.47

但是,以下聚合(“agg”是数据框名称)需要370秒才能完成。问题是我有100个这样的表等着......

agg <- aggregate(x = agg[, 2:ncol(agg)], by = list(ID = agg$ID), FUN = "mean", na.rm = T)

所以我将它转换为data.table并运行数据表方法。

dt <- as.data.table(agg)
setkey(dt, ID)
dt2 <- dt[,lapply(list(dt[2:ncol(dt)]),mean),by = ID]

但几分钟后收到错误消息:

Error: cannot allocate vector of size 144 Kb
In addition: Warning messages:
1: Reached total allocation of 1535Mb: see help(memory.size) 
2: Reached total allocation of 1535Mb: see help(memory.size)

不确定是什么问题。不能使用dt [1:5,1:5]来看到dt的“head”部分,而head(dt)返回太多穿过屋顶的线条我也看不到“头部”。不知道现在该做什么。

我可以在一列中列出ID(如在data.frame中)或转置表并列出第一行中的ID(如data.table中所示)。无论哪种方式,是否有更快的方式来聚合数据?非常感谢!

1 个答案:

答案 0 :(得分:12)

这:

dt2 <- dt[,lapply(list(dt[2:ncol(dt)]),mean),by = ID]

应该只是:

dt2 <- dt[, lapply(.SD,mean), by=ID]

dt[2:ncol(dt)]实际上占用了一部分行。

学习data.table语法的一种快捷方法是在提示符下运行example(data.table)并在提示符处完成示例。如果你搜索“#按列分组应用”,你会发现这个例子。

要了解.SD,最好的方法是在?data.table搜索字符串".SD",然后还有一些关于.SD的好问题和非常详细的答案data.table标签,由搜索“[data.table] .SD”返回。