Question

我在包含长整数的csv中有数据。我在csvs和fst文件之间交换这些数据。

例如，

library(bit64)
library(data.table)
library(fst)
library(magrittr)

# Prepare example csvs
DT64_orig <- data.table(x = (c(2345612345679, 1234567890, 8714567890)))
fwrite(DT64_orig, "DT64_orig.csv")

# Read and move to fst
DT64 <- fread("DT64_orig.csv")
write.fst(DT64, "DT64_fst.fst")

DT_fst2 <- 
  read.fst("DT64_fst.fst") %>%
  setDT

# bit64 integers not preserved:
identical(DT_fst2, DT64)

是否可以使用包含fst整数的data.table的{{1}}个文件

Answer 1

看起来fst可能会在保存或加载时删除列属性（请在fst包中询问问题）。您可以在此期间自行添加列类型。 bit64::integer64是一个普通的double，因此没有任何损失。只是告诉R如何打印列的类型信息。

> DT_fst2
               x
1: 1.158886e-311
2: 6.099576e-315
3: 4.305569e-314
> setattr(DT_fst2$x, "class", "integer64")
> DT_fst2
               x
1: 2345612345679
2:    1234567890
3:    8714567890
> identical(DT_fst2, DT64)
[1] TRUE

Answer 2

Matt绝对正确，fst目前没有序列化任何列属性。它将在下一个版本中，这将在几周后到期。此时，还将支持Date和POSIXt等类。然而，支持自定义属性将是一项挑战，因为fst提供对数据的随机访问，并且一些属性在子设置时被修改（例如，考虑时间序列）。

bit64与fst的整数

2 个答案: