我有下面的嵌套循环。 如何并行外部循环以便我可以将外部循环分配到4个同时运行并等待所有4个运行完成,然后继续使用其余的脚本?
for r in range(4):
for k in range( r*nAnalysis/4, (r+1)*nAnalysis/4 ):
# - Write Abaqus INP file - #
writeABQfile(ppos,props,totalTime[k],recInt[k],inpFiles[k],i,lineNum[k],aPath[k])
# - Delete LCK file to Enable Another Analysis - #
delFile(aPath[k]+"/"+inpFiles[k]+".lck")
# - Run Analysis - #
runABQfile(inpFiles[k],aPath[k])
我尝试使用multiprocess.pool
,但它永远不会进入:
def parRunABQfiles(nA,nP,r,ppos,prop0,prop1,totalTime2Run_,recIntervals_,inpFiles_,i,lineNumbers_,aPath_):
from os import path
from auxFunctions import writeABQfile, runABQfile
print("I am Here")
for k in range( r*nA/nP, (r+1)*nA/nP ):
# - Write Abaqus INP file - #
writeABQfile(ppos,prop0,prop1,totalTime2Run_,recIntervals_,inpFiles_,i,lineNumbers_,aPath_)
# - Delete LCK file to Enable Another Analysis - #
delFile(aPath_+"/"+inpFiles[k]+".lck")
# - Run Analysis - #
runABQfile(inpFiles_,aPath_)
# - Make Sure Analysis is not Bypassed - #
while os.path.isfile(aPath_+"/"+inpFiles[k]+".lck") == True:
sleep(0.1)
return k
results = zip(*pool.map(parRunABQfiles, range(0, 4, 1)))
runABQfile
只是运行abaqus
def runABQfile(inpFile,path):
import subprocess
import os
prcStr1 = ('sbatch '+path+'/runJob.sh')
process = subprocess.call(prcStr1, stdin=None, stdout=None, stderr=None, shell=True )
return
我没有出现任何错误,所以我不确定为什么不进入那里。我知道因为writeABQfile
没有写入输入文件。问题是:
如何并行化外部循环,以便我可以将外部循环分配到4个同时运行并等待所有4个运行完成,然后继续使用其余的脚本?
答案 0 :(得分:1)
如果您想要多处理,请使用concurrent.futures
模块。
from concurrent.futures import ProcessPoolExecutor
def each(r):
for k in range( r*nAnalysis/4, (r+1)*nAnalysis/4 ):
writeABQfile(ppos,props,totalTime[k],recInt[k],inpFiles[k],i,lineNum[k],aPath[k])
delFile(aPath[k]+"/"+inpFiles[k]+".lck")
runABQfile(inpFiles[k],aPath[k])
with ProcessPoolExecutor(max_workers=4) as executor:
output = executor.map(each, range(4)) # returns an iterable
如果你只想“做”东西而不是“生产”,请从同一模块中查看as_completed
函数。文档中有直接的例子。