我正在尝试使用广播联接,但在Spark 2.3中出现错误。但是,相同的代码在Spark 2.2中也可以正常工作。
检查数据帧的大小时,它只有50 MB,我也将阈值设置为200 MB。正如我上面提到的,相同的代码在Spark 2.2中可以正常工作
Error: "Cannot broadcast the table that is larger than 8GB".
但是,禁用广播效果很好。
'spark.sql.autoBroadcastJoinThreshold': '-1'
能在这里帮忙吗?