在多个执行程序中运行时,sp​​ark job会卡住

时间:2015-05-20 01:50:26

标签: apache-spark

问题:在本地[k]模式下运行时,sp​​ark程序卡住或挂起,其中k设置为8.

错误讯息:

 2015-05-20 00:55:19 INFO  Executor:59 - Finished task 10.0 in stage 0.0 (TID      10). 2471 bytes result sent to driver
 2015-05-20 00:55:19 INFO  TaskSetManager:59 - Finished task 10.0 in stage 0.0 (TID 10) in 2658752 ms on localhost (13/15)
 TaskSetManager:59 - Finished task 10.0 in stage 0.0 (TID 10) in 2658752 ms on localhost (13/15)
 TaskSetManager:59 - Finished task 10.0 in stage 0.0 (TID 10) in 2658752 ms on localhost (13/15))

情况: Spark版本:1.3.0 当我在多个执行程序中运行spark时,会发生此问题,例如8.如果它小于3,则不存在此类错误。

任何人遇到同样的问题或想到一些解决方案?

1 个答案:

答案 0 :(得分:2)

我无法直接解决问题。但是,当我为线程设置较小的数字时,错误就消失了,比如k = 2或4.