这是我的火花配置。
spark.executor.instances 100
spark.executor.memory 7g
spark.executor.cores 4
spark.driver.memory 7g
spark.memory.useLegacyMode true
spark.storage.memoryFraction 0.2
我丢失了所有执行者,其中shuffle写入超过3GB。
但我认为每个执行者的可用内存是1 *(1 - 0.2)+ OverheadMemory = 7G。 所以其他4G内存被Spark用来做其他辅助事情。火花对这么多记忆有什么影响?