无法广播大于8GB的表:Spark 2.3

时间:2018-10-23 08:30:26

标签: apache-spark apache-spark-sql

我正在尝试使用广播联接,但在Spark 2.3中出现错误。但是,相同的代码在Spark 2.2中也可以正常工作。

检查数据帧的大小时,它只有50 MB,我也将阈值设置为200 MB。正如我上面提到的,相同的代码在Spark 2.2中可以正常工作

Error: "Cannot broadcast the table that is larger than 8GB".

但是,禁用广播效果很好。

'spark.sql.autoBroadcastJoinThreshold': '-1'

能在这里帮忙吗?

0 个答案:

没有答案