我正在尝试计算每行不包含NA的列数,并将该值放入该行的新列中。
示例数据:
library(data.table)
a = c(1,2,3,4,NA)
b = c(6,NA,8,9,10)
c = c(11,12,NA,14,15)
d = data.table(a,b,c)
> d
a b c
1: 1 6 11
2: 2 NA 12
3: 3 8 NA
4: 4 9 14
5: NA 10 15
我想要的输出包括一个新列num_obs
,其中包含每行非NA条目的数量:
a b c num_obs
1: 1 6 11 3
2: 2 NA 12 2
3: 3 8 NA 2
4: 4 9 14 3
5: NA 10 15 2
我现在已经阅读了几个小时,到目前为止,我提出的最好的是循环遍历行,我知道在R或data.table中是不可取的。我确信有更好的方法可以做到这一点,请赐教。
我糟糕的方式:
len = (1:NROW(d))
for (n in len) {
d[n, num_obs := length(which(!is.na(d[n])))]
}
答案 0 :(得分:15)
尝试使用Reduce
将+
调用链接起来:
d[, num_obs := Reduce(`+`, lapply(.SD,function(x) !is.na(x)))]
如果速度至关重要,您可以通过Ananda的建议更多地了解一下,以便对所评估的列数进行硬编码:
d[, num_obs := 4 - Reduce("+", lapply(.SD, is.na))]
使用Ananda的更大数据进行基准测试。来自上方的d
:
fun1 <- function(indt) indt[, num_obs := rowSums(!is.na(indt))][]
fun3 <- function(indt) indt[, num_obs := Reduce(`+`, lapply(.SD,function(x) !is.na(x)))][]
fun4 <- function(indt) indt[, num_obs := 4 - Reduce("+", lapply(.SD, is.na))][]
library(microbenchmark)
microbenchmark(fun1(copy(d)), fun3(copy(d)), fun4(copy(d)), times=10L)
#Unit: milliseconds
# expr min lq mean median uq max neval
# fun1(copy(d)) 3.565866 3.639361 3.912554 3.703091 4.023724 4.596130 10
# fun3(copy(d)) 2.543878 2.611745 2.973861 2.664550 3.657239 4.011475 10
# fun4(copy(d)) 2.265786 2.293927 2.798597 2.345242 3.385437 4.128339 10
答案 1 :(得分:7)
快速浮现的两个选项是:
d[, num_obs := sum(!is.na(.SD)), by = 1:nrow(d)][]
d[, num_obs := rowSums(!is.na(d))][]
第一种方法是创建一个每组只有一行的“组”(1:nrow(d)
)。没有它,它只会将整个表中的NA
值相加。
第二个使用已经非常有效的基本R函数rowSums
。
以下是大数据的基准:
set.seed(1)
nrow = 10000
ncol = 15
d <- as.data.table(matrix(sample(c(NA, -5:10), nrow*ncol, TRUE), nrow = nrow, ncol = ncol))
fun1 <- function(indt) indt[, num_obs := rowSums(!is.na(indt))][]
fun2 <- function(indt) indt[, num_obs := sum(!is.na(.SD)), by = 1:nrow(indt)][]
library(microbenchmark)
microbenchmark(fun1(copy(d)), fun2(copy(d)))
# Unit: milliseconds
# expr min lq mean median uq max neval
# fun1(copy(d)) 3.727958 3.906458 5.507632 4.159704 4.475201 106.5708 100
# fun2(copy(d)) 584.499120 655.634889 684.889614 681.054752 712.428684 861.1650 100
顺便说一句,空[]
只是打印生成的data.table
。当您想要从“data.table”中的set*
函数返回输出时,这是必需的。