Question

我有一个大的data.table对象（1M行和220列），我想用NA替换所有空格（＆＃39;＆＃39;）。我在Post找到了一个解决方案，但我的数据表速度非常慢（已超过15分钟）另一篇文章的例子：

 data = data.frame(cats=rep(c('', ' ', 'meow'),1e6),
                   dogs=rep(c("woof", " ", NA),1e6))
 system.time(x<-apply(data, 2, function(x) gsub("^$|^ $", NA, x)))

是否有更多的data.table快速方法来实现这一目标？

实际上，提供的数据与原始数据看起来并不太像，只是举个例子。我的实际数据的以下子集给出了CharToDate（x）错误：

DT <- data.table(ID=c(10),DEFAULT_DATE=as.Date("2012-07-31"),value='')
system.time(DT[DT=='']<-NA)

Answer 1

这可能是执行此操作的通用data.table方式。我也将使用你的正则表达式处理几种类型的空白（我没有看到其他答案这样做）。您可能不应该在所有列上执行此操作，而只能在factor或character列上运行，因为其他类不接受空值。

factor s

indx <- which(sapply(data, is.factor))
for (j in indx) set(data, i = grep("^$|^ $", data[[j]]), j = j, value = NA_integer_)

character s

indx2 <- which(sapply(data, is.character)) 
for (j in indx2) set(data, i = grep("^$|^ $", data[[j]]), j = j, value = NA_character_)

Answer 2

使用这种方法：

system.time(data[data==''|data==' ']<-NA)
  user  system elapsed 
  1.47    0.19    1.66 

system.time(y<-apply(data, 2, function(x) gsub("^$|^ $", NA, x)))
  user  system elapsed 
  3.41    0.20    3.64

Answer 3

假设您在填充数据时遇到错误，下面是使用您在标记中使用的data.table的解决方案。

library(data.table)
data = data.table(cats=rep(c('', ' ', 'meow'),1000000),dogs=rep(c("woof", " ", NA),1000000))
system.time(data[cats=='', cats := NA][dogs=='', dogs := NA])
#  user  system elapsed 
# 0.056   0.000   0.059

如果您有很多专栏，请参阅David的评论。

Answer 4

在尝试了几种不同的方法后，我发现最快捷、最简单的方法是：

data[data==""] <- NA

在R data.table中用NA替换所有空白的快速方法

4 个答案: