如何在shell脚本中控制for循环中的多线程后台作业

时间:2015-06-10 06:20:52

标签: multithreading shell for-loop background

我发现我执行带有for循环的shell脚本(tcsh)后,我的带有12个CPU的linux工作站几乎停止工作了,其中通过添加'&'同时执行了数百个循环在命令的最后。有没有办法使用tcsh控制for循环中后台进程的数量或执行时间?

1 个答案:

答案 0 :(得分:0)

GNU Parallel是针对这种情况而制作的。

GNU Parallel是一个通用的并行程序,可以很容易地在同一台机器上或在你有ssh访问权限的多台机器上并行运行作业。

如果要在4个CPU上运行32个不同的作业,并行化的直接方法是在每个CPU上运行8个作业:

Simple scheduling

GNU Parallel会在完成后生成一个新进程 - 保持CPU处于活动状态,从而节省时间:

GNU Parallel scheduling

<强>安装

如果没有为您的发行版打包GNU Parallel,您可以进行个人安装,不需要root访问权限。这可以在10秒内完成:

(wget -O - pi.dk/3 || curl pi.dk/3/ || fetch -o - http://pi.dk/3) | bash

有关其他安装选项,请参阅http://git.savannah.gnu.org/cgit/parallel.git/tree/README

了解详情

查看更多示例:http://www.gnu.org/software/parallel/man.html

观看介绍视频:https://www.youtube.com/playlist?list=PL284C9FF2488BC6D1

完成教程:http://www.gnu.org/software/parallel/parallel_tutorial.html

注册电子邮件列表以获得支持:https://lists.gnu.org/mailman/listinfo/parallel