如何限制从sparklyr中的镶木地板文件中读取的行数

时间:2017-10-17 19:48:24

标签: parquet sparklyr

我有一个巨大的镶木地板文件,在阅读时不适合内存或磁盘,这是一种使用spark_read_parquet只能读取前n行的方法吗?

1 个答案:

答案 0 :(得分:3)

这可能是一种hacky方式,但

spark_read_parquet(..., memory=FALSE) %>% head(n)

似乎为我做了这份工作。