Python 3:使用多处理队列进行日志记录

时间:2012-04-05 12:48:01

标签: python logging python-3.x queue multiprocessing

我最近遇到了将多处理功能应用到我们软件中的挑战。我想要一个主进程来生成子进程,我需要一些方法将日志信息发送回主进程。这主要是因为我们使用的模块将警告和错误消息写入日志记录对象,我们希望这些消息出现在主进程中运行的gui中。

显而易见的方法是使用write()方法编写一个小类,将()放入队列,然后在日志流处理程序中使用此类。然后主进程将从此队列中获取()以将文本发送到gui。但这似乎不起作用,我不知道为什么

我写了一些示例代码来演示问题。它使用日志记录对象在子进程中写入队列,然后主进程尝试从队列中读取,但失败。有人可以帮我弄清楚这有什么问题吗?

import time, multiprocessing, queue, logging

class FileLikeQueue:
    """A file-like object that writes to a queue"""
    def __init__(self, q):
        self.q = q
    def write(self, t):
        self.q.put(t)
    def flush(self):
        pass


def func(q):
    """This function just writes the time every second for five 
    seconds and then returns. The time is sent to the queue and 
    to a logging object"""

    stream = FileLikeQueue(q)

    log = logging.getLogger()
    infohandler = logging.StreamHandler(stream)
    infohandler.setLevel(logging.INFO)
    infoformatter = logging.Formatter("%(message)s")
    infohandler.setFormatter(infoformatter)
    log.addHandler(infohandler)

    t1 = time.time()
    while time.time() - t1 < 5: #run for five seconds
        log.info('Logging: ' + str(time.time()))
        q.put('Put: %s' % str(time.time()))
        time.sleep(1)



def main():
    q = multiprocessing.Queue()
    p = multiprocessing.Process(target=func, args=(q,))
    p.start()

    #read the queue until it is empty
    while True:
        try:
            t = q.get()
        except queue.Empty:
            break
        print(t)


if __name__ == '__main__':
    main()

我希望输出为:

Logging: 1333629221.01
Put: 1333629221.01
Logging: 1333629222.02
Put: 1333629222.02
Logging: 1333629223.02
Put: 1333629223.02
Logging: 1333629224.02
Put: 1333629224.02
Logging: 1333629225.02
Put: 1333629225.02

但我得到的是:

Put: 1333629221.01
Put: 1333629222.02
Put: 1333629223.02
Put: 1333629224.02
Put: 1333629225.02

因此func()中的put()操作有效,但日志记录却没有。为什么呢?

谢谢。

1 个答案:

答案 0 :(得分:3)

您的问题在于日志记录模块的配置:

您需要致电log.setLevel(logging.INFO)。默认日志级别为WARNING,因此您的日志无效。

您确实在处理程序对象上调用了setLevel,但是记录的消息从未到达处理程序,因为它们被记录器过滤掉了。无需在处理程序本身上调用setLevel,因为它默认处理所有消息。