Question

我有一些固定宽度的天气数据，但长度取决于变量（见下文，来自GHCN的数据，http://www1.ncdc.noaa.gov/pub/data/ghcn/daily/readme.txt）。

我想将它们拆分成data.frame，并根据@GSee（How to split a string into substrings of a given length?）的建议编写了一些代码。但是处理6000行需要大约4.3秒。

是否有更快的方法来处理此数据集？

感谢您的任何建议。

temp <- readLines(textConnection("NO000050550193801TMAX   53  I   51  I   10  I   22  I   56  I   31  I   30  I   24  I   38  I   25  I    2  I   32  I   75  I   71  I   98  I   96  I   57  I   55  I   54  I   60  I   91  I   75  I   94  I   82  I   89  I   46  I   26  I   68  I   62  I   46  I   37  I
NO000050550193801TMIN   25  I   -6  I  -27  I    0  I    3  I  -14  I   -8  I   11  I   10  I  -11  I  -30  I  -23  I   22  I   38  I   47  I   33  I   13  I    5  I   10  I   29  I   42  I   45  I   51  I   44  I   35  I    5  I  -16  I  -20  I    5  I    2  I    5  I
NO000050550193802TMAX   69  I   58  I   71  I   90  I   77  I   70  I   56  I   46  I   58  I   32  I   32  I   22  I   25  I   30  I   29  I   29  I   34  I   88  I   58  I   50  I   45  I   62  I   38  I   40  I   59  I  112  I   92  I   77  I-9999   -9999   -9999   
NO000050550193802TMIN   11  I   26  I   16  I   35  I   44  I   21  I   19  I   22  I   20  I    6  I    6  I  -16  I  -22  I  -39  I  -28  I  -35  I  -33  I  -21  I  -13  I   15  I   26  I   17  I   -1  I    9  I   18  I   38  I   58  I   28  I-9999   -9999   -9999   
NO000050550193803TMAX   81  I   84  I   89  I   86  I   86  I   74  I   54  I   74  I   83  I   64  I   75  I   77  I   66  I   91  I   82  I   84  I   89  I   84  I   94  I   85  I   82  I   89  I   74  I   84  I   81  I   58  I   72  I   58  I   86  I   84  I   89  I
NO000050550193803TMIN   31  I   25  I   29  I   45  I   61  I   20  I    9  I    8  I   38  I   31  I    9  I   39  I   27  I   56  I   48  I   65  I   45  I   54  I   46  I   42  I   43  I   36  I   56  I   61  I   15  I   -2  I  -11  I   -2  I   12  I   30  I   24  I"))

temp <- rep(temp, 1000)
system.time({

out <- strsplit(temp, '')
out <- as.matrix(do.call(rbind, out))
pos_matrix <- matrix(c(12, 16, 18, seq(0, 30) * 8 + 22,
    15, 17, 21, seq(0, 30) * 8 + 26), ncol = 2)
out <- apply(out, 1, function(x)
    {
        apply(pos_matrix, 1, function(y) 
            paste(x[y[1]:y[2]], collapse = ''))
    })
})

user  system elapsed 
4.46    0.01    4.52

编辑Ananda Mahto评论：

system.time({
pos_matrix <- matrix(c(12, 16, 18, seq(0, 30) * 8 + 22,
    15, 17, 21, seq(0, 30) * 8 + 26), ncol = 2)
pos_matrix <- lapply(seq(1, nrow(pos_matrix)), function(x) 
    {
        sprintf('substr(V1, %s, %s) f%s',
            pos_matrix[x,1], pos_matrix[x,2], x)
    })
pos_matrix <- paste(pos_matrix, collapse = ', ')
out <- data.frame(V1 = temp)

out <- sqldf(sprintf('select %s from out', pos_matrix))
})

user  system elapsed 
 0.4     0.0     0.4

使用jlhoward建议编辑：

system.time({
pos_matrix <- matrix(c(12, 16, 18, seq(0, 30) * 8 + 22,
    15, 17, 21, seq(0, 30) * 8 + 26), ncol = 2)
out <- apply(pos_matrix, 1, function(x)
    {
        substr(temp, x[1], x[2])
    })
})
user  system elapsed 
0.04    0.00    0.04

Answer 1

对代码进行概要分析（?Rprof）表明在paste(...)中花费了2/3的执行时间，这并不奇怪。您似乎将输入拆分为单个字符，然后根据pos_matrix(...)重新组合它们。将substr(...)与具有起始位置和长度的矩阵一起使用可能更有效。

编辑：添加代码以实施上述建议

vec <- as.vector(temp)
pos_matrix <- matrix(c(12, 16, 18, seq(0, 30) * 8 + 22,
                       15, 17, 21, seq(0, 30) * 8 + 26), ncol = 2)
pos <- t(pos_matrix)
system.time(
out <- do.call(rbind,list(apply(pos,2,function(x){substr(vec,x[1],x[2])})))
)
#   user  system elapsed 
#   0.09    0.00    0.09

Answer 2

utils包中有一个固定宽度的读取函数（默认加载）：

m <- matrix(c(12, 16, 18, seq(0, 30) * 8 + 22,
     15, 17, 21, seq(0, 30) * 8 + 26), ncol = 2)
read.fwf(textConnection(temp), c(11,             # which you are apparently ignoring
                                 m[,2]-m[,1]+1)  )

但对我来说至少有6000个这样的记录花了9秒钟。

Answer 3

scan - 适用于文件或连接。可以修改您的代码以使用上面给出的temp，但更方便：

writeLines(temp, "temp.txt")
scan("temp.txt", what=""))
# and now convert it to a matrix of appropriate size

不确定它是否比基于sqldf的解决方案更快，但它看起来更直接。

[[note]]好的，你问过“给定长度的子串”，所以从技术上讲，我的答案是关于别的东西。但看起来这对于像这个例子中的文件实际上可能有用。

是否有更快的方法将字符串拆分为给定长度的子字符串？

3 个答案: