在并行任务上只使用一个核心的火花

时间:2016-06-27 16:54:17

标签: python amazon-web-services apache-spark cpu

所以我有这段代码:

String

虽然它会释放所有火花,但它会使用所有核心。

但是当它开始执行任务(索引)时,它只在100%上使用1个核心。

如何让一个spark任务使用所有核心?

1 个答案:

答案 0 :(得分:0)

问题在于python本身没有使用所有核心。我实现了多线程。

感谢所有帮助过的人。