Question

我试图在R中读取一个大的（~100mb）二进制矩阵。这就是明文的样子：

10001010
10010100
00101101

预期产出：

  V1 V2 V3 V4 V5 V6 V7 V8
r1  1  0  0  0  1  0  1  0
r2  1  0  0  1  0  1  0  0
r3  0  0  1  0  1  1  0  1

我正在阅读每一行并分开这些位。有没有更有效的方法来做到这一点？

Answer 1

base R选项（可能很慢）是scan .txt个文件，split分隔符""的元素，转换为numeric/integer和rbind list元素可以创建matrix。

 m1 <- do.call(rbind,lapply(strsplit(scan("inpfile.txt", 
                 what=""), ""), as.numeric))
 m1
 #      [,1] [,2] [,3] [,4] [,5] [,6] [,7] [,8]
 #[1,]    1    0    0    0    1    0    1    0
 #[2,]    1    0    0    1    0    1    0    0
 #[3,]    0    0    1    0    1    1    0    1

稍快一点的版本是使用fread阅读文件，然后使用tstrsplit

library(data.table)
fread("inpfile.txt", colClasses="character")[, tstrsplit(V1, "")]
#    V1 V2 V3 V4 V5 V6 V7 V8
#1:  1  0  0  0  1  0  1  0
#2:  1  0  0  1  0  1  0  0
#3:  0  0  1  0  1  1  0  1

我还会通过使用awk在每个字符之间创建空格来更改分隔符（如果OP使用linux）然后使用fread读取（我无法将其作为我在windows系统上。）

更快的选项还可能包括使用library(iotools)

n <- nchar(scan(file, what="",n=1))
library(iotools)
input.file("inpfile.txt", formatter=dstrfw, 
           col_types=rep("integer",n), widths=rep(1,n))
#  V1 V2 V3 V4 V5 V6 V7 V8
#1  1  0  0  0  1  0  1  0
#2  1  0  0  1  0  1  0  0
#3  0  0  1  0  1  1  0  1

基准

使用稍大的数据集，readr和iotools之间的时间如下。

n <-100000
cat(gsub("([[:alnum:]]{8})", "\\1\n", paste(sample(0:1, 
                n*8, TRUE), collapse="")), 
              file="dat2.txt")
library(readr)
tic <- Sys.time()
read_fwf("dat2.txt", fwf_widths(rep(1, 8)))
difftime(Sys.time(), tic)
#Time difference of 1.142145 secs

tic <- Sys.time()
input.file("dat2.txt", formatter=dstrfw, 
  col_types=rep("integer",8), widths=rep(1,8))
difftime(Sys.time(), tic)
#Time difference of 0.7440939 secs

library(LaF)
tic <- Sys.time()
laf <- laf_open_fwf("dat2.txt", column_widths = rep(1, 
    8),  column_types=rep("integer", 8))
## further processing (larger in memory)
dat <- laf[,]
difftime(Sys.time(), tic)
#Time difference of 0.1285172 secs

迄今为止效率最高的是@Tyler Rinker发布的library(LaF)，其次是library(iotools)

Answer 2

使用 readr 的固定宽度文件阅读器在大文件上这可能会非常快：

library(readr)
read_fwf("dat.txt", fwf_widths(rep(1, 8)))

##      X1    X2    X3    X4    X5    X6    X7    X8
##   (int) (int) (int) (int) (int) (int) (int) (int)
## 1     1     0     0     0     1     0     1     0
## 2     1     0     0     1     0     1     0     0
## 3     0     0     1     0     1     1     0     1

我想扩大规模和时间。在下面的过程中， readr ~7.5秒读取与您讨论的文件相当的文件。

n <-10000000
cat(gsub("([[:alnum:]]{8})", "\\1\n", paste(sample(0:1, n*8, TRUE), collapse="")), file="dat2.txt")

file.size('dat2.txt')  #100000000

tic <- Sys.time()
read_fwf("dat2.txt", fwf_widths(rep(1, 8)))
difftime(Sys.time(), tic)
## Time difference of 7.41096 secs

您可能还需要考虑使用LaF软件包来读取大的固定宽度文件。类似的东西：

library(LaF)
cols <- 8
laf <- laf_open_fwf("dat2.txt", column_widths = rep(1, cols), 
  column_types=rep("integer", cols))
## further processing (larger in memory)
dat <- laf[,]

R - 读取没有分隔符的二进制矩阵

2 个答案:

基准