Python日志开销

时间:2016-02-29 11:08:51

标签: python python-3.x asynchronous python-asyncio

我使用asyncio模块编写了我的代码,其中包含大量信息/调试日志记录( logging.FileHandler )。我担心在 asyncio 中广泛使用日志记录会降低我的应用程序的性能,因为日志记录阻止了操作。

最佳解决方案是什么?没有找到有关日志记录开销的任何信息。

也许使用SocketHandlerMemoryHandler会有所帮助吗?对于我使用statsd的指标(这也是阻止操作,但必须非常快),但我更关注非阻塞日志记录。

代码示例:

@asyncio.coroutine
def creator_worker(self):
    while not self.q.empty():
        with (yield from self.semaphore):
            sample = yield from self.q.get()
            logging.debug('Got new sample, processing')
            # start processing

我知道

import os
os.environ['PYTHONASYNCIODEBUG'] = '1'
import asyncio

但那不是我想要的。

谢谢

2 个答案:

答案 0 :(得分:4)

记录文档提供了一个解决方案,记录QueueHandler,然后使用QueueListener处理另一个线程中的日志记录。 https://docs.python.org/3.6/howto/logging-cookbook.html#dealing-with-handlers-that-block

答案 1 :(得分:3)

您可以创建自定义日志处理程序。 处理程序将日志记录推送到队列中。 另一个线程可以从队列中读取数据并执行实际的日志记录。

作为一种选择,您可以使用SysLogHandler - 它非常快。 但是,无论如何,记录太多会降低性能,你无法做任何事情。