如何将Scala Spark DataFrames架构导出到Json文件?

时间:2018-04-17 07:34:05

标签: scala apache-spark dataframe apache-spark-sql spark-dataframe

我尝试了df.write.json("myNewJson")虽然没有抛出任何错误或警告,但它根本不会在目标中创建任何文件。 df.write.format("json").save("/MyDir/")似乎也有同样的问题。我在这里错过了一些陈述吗?

2 个答案:

答案 0 :(得分:6)

为那些可能偶然遇到同样问题的人发布适用于我的确切代码。 我可以使用以下语句将DataFrame模式导出到Json文件:

import java.io._

val a = df.schema.json
val writer = new PrintWriter(new File("/home/file"))
writer.write(a)
writer.close()

答案 1 :(得分:0)

df.write用于保存df的内容,而df.schema用于保存df的结构。您的DataFrame可能为空。您可以在保存前通过df.show()进行检查。