Spark Shell读取本地镶木地板文件

时间:2015-09-22 14:01:22

标签: apache-spark hdfs

是否可以从Spark Shell的本地文件系统中读取镶木地板文件?

我遇到了想要从hdfs读取它的问题。

sqlContext.sql("SET spark.sql.parquet.binaryAsString=true")
df = sqlContext.parquetFile('/Users/file.parquet')

还尝试了:'file:///Users/file.parquet'

错误:

  

java.io.FileNotFoundException:文件不存在:hdfs://nameservice1/Users/file.parquet   ```

1 个答案:

答案 0 :(得分:1)

当我转移到Spark 1.5而不是1.3时,一切都神奇地起作用。