在无限循环中停止连接到队列的python多处理工作程序的最简洁方法是什么?

时间:2013-05-21 16:03:32

标签: python multiprocessing gevent defunct

我正在使用multiprocessing.Poolmultiprocessing.Queue在python中实现生产者 - 消费者模式。消费者是预分叉的进程,使用gevent来生成多个任务。

这是一个精简版的代码:

import gevent
from Queue import Empty as QueueEmpty
from multiprocessing import Process, Queue, Pool
import signal
import time

# Task queue
queue = Queue()

def init_worker ():
    # Ignore signals in worker
    signal.signal( signal.SIGTERM, signal.SIG_IGN )
    signal.signal( signal.SIGINT, signal.SIG_IGN )
    signal.signal( signal.SIGQUIT, signal.SIG_IGN )

# One of the worker task
def worker_task1( ):
    while True:
        try:
            m = queue.get( timeout = 2 )

            # Break out if producer says quit
            if m == 'QUIT':
                print 'TIME TO QUIT'
                break

        except QueueEmpty:
            pass

# Worker
def work( ):
    gevent.joinall([
        gevent.spawn( worker_task1 ),
    ])

pool = Pool( 2, init_worker )
for i in xrange( 2 ):
    pool.apply_async( work )

try:
    while True:
        queue.put( 'Some Task' )
        time.sleep( 2 )

except KeyboardInterrupt as e:
    print 'STOPPING'

    # Signal all workers to quit
    for i in xrange( 2 ):
        queue.put( 'QUIT' )

    pool.join()

现在,当我尝试退出时,我得到以下状态:

  1. 父进程正在等待其中一个孩子加入。
  2. 其中一个孩子处于不复存在的状态。完成了,但是父母正在等待其他孩子完成。
  3. 其他孩子正在展示:futex(0x7f99d9188000, FUTEX_WAIT, 0, NULL ...
  4. 那么干净地结束这样一个过程的正确方法是什么?

1 个答案:

答案 0 :(得分:13)

我弄明白了这个问题。根据{{​​3}},pool必须为close()ed才能join()ed。在pool.close()之前添加pool.join()解决了问题。