如何加快在数据表中查找反转行的过程

时间:2015-01-23 14:38:13

标签: r data.table reverse

给定R中的data.table,我想找到与前一行相反的行。例如:

>head(DT)
   V1      V2 
 1 nameA   nameB 
 2 nameA   nameC
 3 nameB   nameA
 4 nameB   nameF
 5 nameN   nameP
 6 nameP   nameN

如果是row 1,则代码应返回row 3。对于row 5,代码应返回row 6。最终,我想放弃“反转”行。

真实数据集有50万行和2列。目前我正在使用这段代码来完成这项工作:

require(foreach)
require(doMC)
registerDoMC(4)
rm.idx <- c()
rm.idx <- foreach(i=1:nrow(DT), .combine = 'c')%dopar%{
       if (!(i %in% rm.idx)) which(DT[i,1] == DT[,2] & DT[i,2] == DT[,1])
}      

代码“返回”一个向量(rm.idx),该向量包含那些作为前一行反转版本的行的索引。

但是,对于相对“小”的数据集,需要很长时间(超过30分钟)。我经常发现R有一些调整或一些功能可以更快地完成这个技巧(或者,我的代码效率也不高)。因此,我想知道是否有人知道找到与前一行相反的行的更快方法

提前感谢您的时间。

1 个答案:

答案 0 :(得分:4)

要找到这些,您可以使用一些data.table函数,如下所示:

> dt <- data.table(V1 = c("A", "A", "B", "B", "N","P"), V2 = c("B","C","A","F","P","N"))
> dt
   V1 V2
1:  A  B
2:  A  C
3:  B  A
4:  B  F
5:  N  P
6:  P  N
> dt1 <- dt[, paste0(V1, V2)]
> dt1
[1] "AB" "AC" "BA" "BF" "NP" "PN"
> dt2 <- dt[, paste0(V2, V1)]
> dt2
[1] "BA" "CA" "AB" "FB" "PN" "NP"
> matches <- data.table(m = match(dt1, dt2))
> matches
    m
1:  3
2: NA
3:  1
4: NA
5:  6
6:  5
> which(matches[, .I > m])
[1] 3 6

我正在使用match()功能,它真的非常快。所以首先我要将这些转化为角色向量。然后我第一次找到第一个字符向量在第二个字符向量中的位置(我知道它的句子令人困惑)。我想再次将结果作为data.table使用.I。我创建了一个包含60万行的data.table,所有这些都在不到一秒的时间内完成。