问题:在本地[k]模式下运行时,spark程序卡住或挂起,其中k设置为8.
错误讯息:
2015-05-20 00:55:19 INFO Executor:59 - Finished task 10.0 in stage 0.0 (TID 10). 2471 bytes result sent to driver
2015-05-20 00:55:19 INFO TaskSetManager:59 - Finished task 10.0 in stage 0.0 (TID 10) in 2658752 ms on localhost (13/15)
TaskSetManager:59 - Finished task 10.0 in stage 0.0 (TID 10) in 2658752 ms on localhost (13/15)
TaskSetManager:59 - Finished task 10.0 in stage 0.0 (TID 10) in 2658752 ms on localhost (13/15))
情况: Spark版本:1.3.0 当我在多个执行程序中运行spark时,会发生此问题,例如8.如果它小于3,则不存在此类错误。
任何人遇到同样的问题或想到一些解决方案?
答案 0 :(得分:2)
我无法直接解决问题。但是,当我为线程设置较小的数字时,错误就消失了,比如k = 2或4.