Question

基本上，我想使用脚本启动不同目录中的其他脚本，并在完成所有“子脚本”之前进行后续工作。我使用multiprocessing.Pool将所有子进程放在一起并使用wait（）等待直到全部完成。这是我的剧本：

import os, shutil, subprocess,sys, multiprocessing

rootdir=os.getcwd()
argument=[]
def Openpy(inputinfo):
    dirpath, filename= inputinfo
    os.chdir(dirpath)
    return subprocess.Popen( [ 'python',  filename ] )

if __name__=="__main__":
    for dirpath, dirname , filenames in os.walk(rootdir):
        for filename in filenames: 
            if filename=='Test.py':
                argument.append( [ dirpath, filename ] )
    print argument
    po=multiprocessing.Pool()
    r=po.map_async(Openpy, argument)
    po.close()
    r.wait()

print 'Child scripts are finished'

子进程正常启动并在一分钟内完成。但是，似乎这些子进程不会将其“已完成的消息”返回给父进程。它没有显示“子脚本已完成”。我该怎么做才能更改我的代码，以便它可以正确检测子进程的结束？

感谢所有帮助！

2013/9/1 9:16 UTC + 8

J.F。塞巴斯蒂安的回答正在被接受。成功运行并优雅地使用列表理解使整个内容更具可读性。

Answer 1

尝试交换r.wait（）和po.close（）

的位置

if __name__=="__main__":
    for dirpath, dirname , filenames in os.walk(rootdir):
        for filename in filenames: 
            if filename=='Test.py':
                argument.append( [ dirpath, filename ] )
    print argument
    po=multiprocessing.Pool()
    r=po.map_async(Openpy, argument)
    r.wait()
    po.close()

这可能不是你的问题，但看起来你可能会在评估结果之前关闭池。

Answer 2

Popen()会立即返回，因此您的父进程会在您的子脚本完成之前完成，即在输出的最开头查找“已完成的消息”。

您不需要multiprocessing同时运行子进程：

import os
import sys
from subprocess import Popen

# run all child scripts in parallel
processes = [Popen([sys.executable, filename], cwd=dirpath)
             for dirpath, dirname , filenames in os.walk('.')
             for filename in filenames
             if filename == 'Test.py']

# wait until they finish
for p in processes:
    p.wait()
print("all done")

另见Python threading multiple bash subprocesses?

如何使用python脚本启动其他python脚本并检查是否所有“子脚本”都已完成？

2 个答案: