将数据帧写入Avro格式时出错

时间:2018-07-10 07:15:21

标签: apache-spark apache-spark-sql

我已经使用6从avro表格中创建了一个具有avro格式的数据框。 我想将此数据帧写入另一个格式为avro的配置单元表中,但出现以下错误。

您能帮我解决这个问题吗?

Spark shell命令:

spark sql

代码:

./spark-shell --packages com.databricks:spark-avro_2.11:4.0.0

堆栈跟踪:

import com.databricks.spark.avro._

df4.write
.mode("append").partitionBy("country")
.format("com.databricks.spark.avro")
.save("/user/XYZ/AVRO1/")

1 个答案:

答案 0 :(得分:0)

使用它。与其给出格式并保存,不如直接使用avro

import com.databricks.spark.avro._
df4
.write
.mode("append").partitionBy("country")
.avro("/user/XYZ/AVRO1/")