嵌套多处理:如何正确终止?

时间:2013-11-04 14:47:44

标签: python nested multiprocessing

我有一个python脚本,它实现了两个级别的多处理:

from multiprocessing import Process, Queue, Lock

if __name__ == '__main__':

    pl1s = []
    for ip1 in range(10):
        pl1 = Process(target=process_level1, args=(...))
        pl1.start()
        pl1s.append(pl1)

    # do somehting for awhile, e.g. for 24 hours

    # time to terminate
    # ISSUE: this terminates process_level1 processes
    #    but not process_level2 ones
    for pl1 in pl1s:
        pl1.terminate()


def process_level1(...):

    # subscriibe to external queue
    #
    with queue.open(name_of_external_queue, 'r') as subq:
        qInternal = Queue()

        pl2s = []
        for ip2 in range(3):
            pl2 = Process(target=process_level2, args=(qInternal))
            pl2.start()
            pl2s.append(pl2)

        # grab messages from external queue and push them to 
        # process_level2 processes to process
        #
        while True:
                    message = subq.read()
            qInternal.put(m)

def process_level2(qInternal):

    while True:
        message = qInternal.get()
        # do something with date form message

因此,在主要内容中,我启动了一系列从属子进程process_level1,每个子进程都会启动一堆自己的子进程process_level2Main应该运行预定义的时间(例如24小时),然后终止所有内容。问题是上面的代码终止了第一层子进程而不是第二层。

我该如何做到这一点同时终止两个图层?

(也许是一个重要的)警告:我想一种方法是建立一个内部队列,从mainprocess_level1进行通信,然后向每个process_level1子进程发送一个信号给终止各自的子流程。问题是process_level1运行无限循环读取消息形成外部队列。所以我不确定在哪里以及如何检查来自main的终止信号。

0 个答案:

没有答案