“栅格IO期间发生故障”可能与栅格大小有关?

时间:2020-05-28 20:02:27

标签: r memory spatial raster r-raster

我在R中具有非常大的栅格。我有一个以前能够运行的代码,并且具有相同的大栅格,但是当我尝试再次运行代码以提高可重复性时,我遇到了相同的错误“栅格IO期间失败”。

例如,在代码的这一部分中,我试图将较大的栅格(〜5 GB)分成较小的图块,以便加快R中的处理时间。

large_raster <- stack("D:/large_raster.tif")
tileno <- 2 # split the large raster into 2 tiles

cl <- makeCluster(3)
registerDoSNOW(cl)
foreach(i = 1:nlayers(large_raster))%dopar%{
  library(raster)
  library(SpaDES)
  removeTmpFiles(h=0)
  newraster <- splitRaster(large_raster[[i]],nx=tileno,ny=1)
  for(j in 1:length(newraster)){
    if(i<10){
      writeRaster(newraster[[j]], filename=paste("D:/large_raster_layer0", i, "_tile", j, ".tif",sep=""))
    }else{
      writeRaster(newraster[[j]],filename=paste("D:/large_raster_layer", i, "_tile", j, ".tif",sep = ""))
    }
  }  
}
stopCluster(cl)

#stack tiles
dir <- ("D:/")
for(j in 1:tileno){
  tiles<-list.files(dir,pattern=paste("tile",j,sep=""))
  for(i in 1:length(tiles)){
    r<-raster(paste(dir,tiles[i],sep=""))
    if(i==1){s<-stack(r)
    }else{s<-stack(s,r)}
  }
  writeRaster(s, filename = paste("D:/large_raster_tile", j, ".tif", sep=""))
}

但是我得到了错误

Error in rgdal::getRasterData(object@file@con, offset = offs, region.dim = reg,  : 
  Failure during raster IO

如果我跳过平铺步骤并最终使用5 GB large_raster,那么我最终会在此代码中再次遇到错误,在该代码中,我将覆盖2来创建一个名为wfps_growSeas的新栅格其他称为dswe2wfpsswt的栅格:

cl <- makeCluster(3)
registerDoSNOW(cl)

wfps_growSeas <- foreach(j = 1:nlayers(dswe2wfps))%dopar%{
  library(raster)
  overlay(dswe2wfps[[j]],swt[[j]], fun=function (x,y){
    x[y[]<=5]<-0
    return (x)},filename=paste("D:/temp2delete/raster",j, "_", info, ".tif",sep=""),overwrite=TRUE)
}  
stopCluster(cl)

wfps_growSeas <- stack(wfps_growSeas)

我得到了错误:

Error in { : task 1 failed - "Failure during raster IO

奇怪的是,这些错误是最近发生的。几周前,我能够使用这些完全相同的大型栅格来运行此确切的代码,目前,我能够使用较小的栅格来运行这些编码。我正在使用R-3.6.2,但同事们建议此错误通常与栅格大小和R的内存有关。 This post表示此错误是由于光栅损坏引起的,但我认为这不是问题所在。有什么建议吗?

2 个答案:

答案 0 :(得分:0)

可能是因为您没有足够的磁盘空间,尤其是在temp文件夹中。清洁临时文件夹和/或将其设置在其他位置。参见?rasterOptions

答案 1 :(得分:0)

通过将我的文件夹(以及保存在文件夹中的栅格)从D驱动器(外部2 TB固态硬盘驱动器)更改为计算机的C驱动器,解决了该问题。 我仍然可以直接在D驱动器上运行使用较小光栅大小的代码(在这种情况下,它实际上仍有大量内存)。