将t.test应用于大型矩阵的每一列的最快方法是什么?

时间:2012-07-12 21:05:46

标签: r matrix apply

假设我有一个大矩阵:

M <- matrix(rnorm(1e7),nrow=20)

进一步假设每列代表一个样本。说我想将t.test()应用于每一列,有没有办法比使用apply()快得多?

apply(M, 2, t.test)

在我的计算机上运行分析花了不到2分钟:

> system.time(invisible( apply(M, 2, t.test)))
user  system elapsed 
113.513   0.663 113.519 

2 个答案:

答案 0 :(得分:9)

使用colttests包中的genefilter功能(在Bioconductor上),您可以做得更好。

> library(genefilter)
> M <- matrix(rnorm(40),nrow=20)
> my.t.test <- function(c){
+   n <- sqrt(length(c))
+   mean(c)*n/sd(c)
+ }
> x1 <- apply(M, 2, function(c) my.t.test(c))
> x2 <- colttests(M, gl(1, nrow(M)))[,"statistic"]
> all.equal(x1, x2)
[1] TRUE
> M <- matrix(rnorm(1e7), nrow=20)
> system.time(invisible(apply(M, 2, function(c) my.t.test(c))))
   user  system elapsed 
 27.386   0.004  27.445 
> system.time(invisible(colttests(M, gl(1, nrow(M)))[,"statistic"]))
   user  system elapsed 
  0.412   0.000   0.414

参考:“在R中同时计算数千个测试统计数据”,SCGN,第18卷(1),2007年,http://stat-computing.org/newsletter/issues/scgn-18-1.pdf

答案 1 :(得分:8)

如果您有多核计算机,则使用所有核心会有一些好处,例如使用mclapply

> library(multicore)
> M <- matrix(rnorm(40),nrow=20)
> x1 <- apply(M, 2, t.test)
> x2 <- mclapply(1:dim(M)[2], function(i) t.test(M[,i]))
> all.equal(x1, x2)
[1] "Component 1: Component 9: 1 string mismatch" "Component 2: Component 9: 1 string mismatch"
# str(x1) and str(x2) show that the difference is immaterial

这个小例子表明事情按照我们的计划进行。现在扩大规模:

> M <- matrix(rnorm(1e7), nrow=20)
> system.time(invisible(apply(M, 2, t.test)))
   user  system elapsed 
101.346   0.626 101.859
> system.time(invisible(mclapply(1:dim(M)[2], function(i) t.test(M[,i]))))
  user  system elapsed 
55.049   2.527  43.668

这是使用8个虚拟核心。你的旅费可能会改变。不是一个巨大的收获,但它来自很少的努力。

修改

如果你只关心t统计量本身,提取相应的字段($statistic)会使事情变得更快,特别是在多核情况下:

> system.time(invisible(apply(M, 2, function(c) t.test(c)$statistic)))
   user  system elapsed 
 80.920   0.437  82.109 
> system.time(invisible(mclapply(1:dim(M)[2], function(i) t.test(M[,i])$statistic)))
   user  system elapsed 
 21.246   1.367  24.107

甚至更快,直接计算t值

my.t.test <- function(c){
  n <- sqrt(length(c))
  mean(c)*n/sd(c)
}

然后

> system.time(invisible(apply(M, 2, function(c) my.t.test(c))))
   user  system elapsed 
 21.371   0.247  21.532 
> system.time(invisible(mclapply(1:dim(M)[2], function(i) my.t.test(M[,i]))))
   user  system elapsed 
144.161   8.658   6.313