我虽然在某个地方读过(无法记住在哪里)因为这些因素实际上并不比data.table中的字符向量更有效。这是真的?我在讨论是否继续使用因子在data.table中存储各种向量。使用object.size
的近似测试似乎表示不同。
chars <- data.table(a = sample(letters, 1e5, TRUE)) # chars (not really)
string <- data.table(a = sample(state.name, 1e5, TRUE)) # strings
fact <- data.table(a = factor(sample(letters, 1e5, TRUE))) # factor
int <- data.table(a = sample(1:26, 1e5, TRUE)) # int
mbs <- function(...) {
ns <- sapply(match.call(expand.dots=TRUE)[-1L], deparse)
vals <- mget(ns, .GlobalEnv)
cat('Sizes:\n',
paste('\t', ns, ':', round(sapply(vals, object.size)/1024/1024, 3), 'MB\n'))
}
## Get approximate sizes?
mbs(chars, string, fact, int)
# Sizes:
# chars : 0.765 MB
# string : 0.766 MB
# fact : 0.384 MB
# int : 0.382 MB
答案 0 :(得分:24)
您可能正在记住data.table FAQ 2.17,其中包含:
stringsAsFactors在data.frame中默认为TRUE,在data.table中为FALSE,以提高效率。由于全局字符串缓存已添加到R,因此字符项是指向单个缓存字符串的指针,并且不再具有转换为factor的性能优势。
(该部分已于2012年7月在v1.8.2的FAQ中添加。)
使用字符而不是因素对堆叠(rbindlist)等任务有很大帮助。由于两个字符向量的c()
只是串联,而两个因子列的c()
需要遍历并联合两个因子级别,这些级别更难编码并且执行时间更长。
你注意到的是64位机器的RAM消耗差异。因子存储为级别中项目的integer
向量查找。类型integer
是32位,即使在64位平台上也是如此。但指针(character
向量是什么)在64位机器上是64位。因此,字符列将使用比64位机器上的因子列多两倍的RAM。在32位没有区别。但是,通常这个成本将被字符向量上可能的更简单和更快的指令所抵消。 [旁白:因为因子是integer
,它们不能包含超过20亿个唯一字符串。 character
列没有此限制。]
这取决于你正在做什么,但是在data.table中对character
的操作进行了优化,这就是我们的建议。基本上它保存了一个跳(到级别),我们可以比较指针值而不是跳跃,甚至是全局缓存,从而比较不同表中的两个字符列。
这也取决于专栏的基数。假设该列是100万行并包含100万个唯一字符串。将它存储为一个因子将需要一个100万个字符向量的水平加上一个指向该级别元素的100万个整数向量。那是(4 + 8)* 1e6字节。另一方面,字符向量不需要级别,它只是8 * 1e6字节。在这两种情况下,全局缓存以相同的方式存储100万个唯一字符串,因此无论如何都会发生。在这种情况下,字符列将使用比它是一个因子更少的RAM。小心检查用于计算RAM使用情况的内存工具是否正确计算。