在R中将嵌套的for循环转换为并行

时间:2016-07-25 13:07:09

标签: r foreach parallel-processing parallel-foreach

下面你可以在R中找到一段我希望转换成使用多个CPU作为并行进程运行的代码。我尝试使用foreach包,但没有走得太远......我找不到一个很好的例子如何使它工作,因为我有3级嵌套循环。非常感谢帮助。下面的代码示例 - 我创建了一个简单的函数,因此它可以作为一个例子:

celnum <- c(10,20,30)
t2 <- c(1,2,3)
allrepeat <- 10

samplefunction <- function(celnum,t2){

        x <- rnorm(100,celnum,t2)
        y = sample(x, 1)
        z = sample(x,1)

        result = y+z


        result 
}

以常规方式获得结果:

z_grid <- matrix(, nrow = length(celnum), ncol = length(t2))

repetitions <- matrix(, nrow = allrepeat, ncol = 1)



set.seed=20
for(i in 1:length(celnum)){
        for (j in 1:length(t2)){
                for (k in 1:allrepeat) {
                        results <- samplefunction(celnum[i],t2[j]) 
                                repetitions[k] <- results
                                z_grid[i,j] <- mean(repetitions,na.rm=TRUE) 
                }  
        }
}

z_grid

现在尝试使用foreach做同样的事情:

set.seed=20

library(foreach)
library(doSNOW)

cl <- makeCluster(3, type = "SOCK")
registerDoSNOW(cl)

set.seed=20
output <- foreach(i=1:length(celnum),.combine='cbind' ) %:% 
        foreach (j=1:length(t2), .combine='c') %:%   
                foreach (k = 1:allrepeat) %do% {
                        mean(samplefunction(celnum[i],t2[j]) )
}  
output

这并不像我希望的那样工作,因为它返回的是30x2维度的矩阵而不是3x3。我的目的是模拟i和j组合k次的场景,并希望得到i和j的每个组合的这些k个模拟的平均值。

1 个答案:

答案 0 :(得分:3)

修改

嵌套的for循环应该如下所示。请注意,只有一个foreach和两个for循环嵌套。

library(foreach)
library(doSNOW)

cl <- makeCluster(3, type = "SOCK")
registerDoSNOW(cl)

set.seed(20)
output <- foreach(k=1:allrepeat) %dopar% {
  df <- data.frame()
  for (i in 1:length(t2)) {
    for (j in 1:length(celnum)) {
      df[i,j] <- mean(samplefunction(celnum[i],t2[j]))
    }  
  }
  df
}

结果output也是list。计算单元格意味着this post有很多帮助。

library(plyr)
aaply(laply(output, as.matrix), c(2,3), mean)

#   X2
# X1       V1       V2       V3
#  1 20.30548 21.38818 18.49324
#  2 40.09506 40.64564 40.34847
#  3 60.10946 59.68913 58.66209
顺便说一句:你应该......

stopCluster(cl)

......之后。

原帖

首先,您必须确定要用for循环替换哪个foreach循环。

基本上这个决定主要受到循环结果的影响,因此,这个结果如何组合起来。由于您将单个进程外包给PC的各个处理器,因此只返回最后一个元素。这些结果将按照.combine参数(例如'c''cbind'等)中的说明进行组合。由于您尝试生成两个列表,因此首次启动可能并不容易。因此,我想提出一个示例,概述嵌套在其他foreach循环中的for循环的功能。

library(foreach)
library(doSNOW)

dat1 <- c(15.2, 12.58, 4.25, 1.05, 6.78, 9.22, 11.20)
dat2 <- data.frame(matrix(1:15, ncol = 3))


cl <- makeCluster(3, type = "SOCK")
registerDoSNOW(cl)

for (i in 1:nrow(dat2)) {
  FEresult <- foreach(j = 1:ncol(dat2), .combine = c, .inorder = TRUE) %dopar% {
    tmp <- dat1 * dat2[i, j]
    data.frame(tmp)
  }
  FEresult
  if (i == 1) {
    res <- FEresult
  } else {
    res <- rbind(res, FEresult)
  }
}

res

你会注意到,这个循环的结果是一个列表。