使用脚本运行有限数量的并行程序

时间:2012-01-24 18:24:09

标签: linux bash

基于This solution我正在尝试开发一个脚本,将运行的进程数限制为4.但是作为替代方案,我希望将作业存储在我通过索引引用的数组中。我写了以下内容:

todo_array[1]="echo start1;sleep 3;echo done1"
todo_array[2]="echo start2;sleep 3;echo done2"
todo_array[3]="echo start3;sleep 3;echo done3"
todo_array[4]="echo start4;sleep 3;echo done4"
todo_array[5]="echo start5;sleep 3;echo done5"
todo_array[6]="echo start6;sleep 3;echo done6"
todo_array[7]="echo start7;sleep 3;echo done7"
todo_array[8]="echo start8;sleep 3;echo done8"
todo_array[9]="echo start9;sleep 3;echo done9"

max_jobs=4

seq ${#todo_array[@]} | xargs -i --max-procs=$max_jobs bash -c $todo_array[{}]

然而,当我执行时,我得到一个空的9 newlinex输出。 我究竟做错了什么? 感谢

编辑:我将其修改为

seq ${#todo_array[@]} | xargs -i --max-procs=$max_jobs bash -c "$todo_array[{}]"

我得到以下奇怪的输出:

start1
start1
start1
start1
done1[2]
done1[3]
done1[1]
done1[4]
start1
start1
start1
start1
done1[5]
done1[6]
done1[7]
done1[8]
start1
done1[9]

3 个答案:

答案 0 :(得分:4)

试试这个:

#!/bin/bash

todo_array[1]="echo start1;sleep 3;echo done1"
todo_array[2]="echo start2;sleep 3;echo done2"
todo_array[3]="echo start3;sleep 3;echo done3"
todo_array[4]="echo start4;sleep 3;echo done4"
todo_array[5]="echo start5;sleep 3;echo done5"
todo_array[6]="echo start6;sleep 3;echo done6"
todo_array[7]="echo start7;sleep 3;echo done7"
todo_array[8]="echo start8;sleep 3;echo done8"
todo_array[9]="echo start9;sleep 3;echo done9"

max_jobs=4

for i in "${todo_array[@]}"
do
    echo $i
done | xargs -IX --max-procs=$max_jobs bash -c "X"

答案 1 :(得分:3)

如果您的问题不具有教育性,而只是“如何运行有限数量的并行程序”,我的建议是不使用脚本并重新发明轮子,而是使用GNU Parallel代替,这正是为此目的

只需使用您的命令创建一个脚本,并将其输入并行,即

./myScript.sh | parallel -j2

在该示例中,parallel将并行运行两个作业,但会在最后收集脚本的输出,就像您实际上一个接一个地执行脚本一样。当然,任务应该是独立的;关于这个意图的问题并不清楚。

答案 2 :(得分:0)

您可能有兴趣查看ppss。它是一个易于使用的强大的线程/ shell脚本的线程。