Python 3 asyncio如何正确关闭客户端连接

时间:2017-07-11 02:41:05

标签: python asynchronous memory-leaks

我在龙卷风网页应用中发现内存泄漏,我不知道如何解决它。经过一些内存分析后,我发现我的memcached客户端在关闭客户端连接时泄漏了dict。作为auto-discovery mechanism w/ AWS ElastiCache的一部分,我打开/关闭memcached客户端(每分钟一次具体)。

这是一个使用pympler来演示泄漏的最小重现器:

from pympler import muppy, summary
import asyncio
import aiomcache

loop = asyncio.get_event_loop()

async def hello_aiomcache():
    mc = aiomcache.Client("127.0.0.1", 11211, loop=loop)
    await mc.set(b"some_key", b"Some value")
    value = await mc.get(b"some_key")
    print(value)
    values = await mc.multi_get(b"some_key", b"other_key")
    print(values)
    await mc.delete(b"another_key")
    mc.close()  

# establish a baseline (watch the <class 'dict line)
summary.print_(summary.summarize(muppy.get_objects()))

for i in range(50):
    loop.run_until_complete(hello_aiomcache())

# <class 'dict grows
summary.print_(summary.summarize(muppy.get_objects()))

ds = [ao for ao in muppy.get_objects() if isinstance(ao, dict)]

# leaked dict looks like {'_loop': <_UnixSelectorEventLoop running=False closed=False debug=False>, '_paused': False, '_drain_waiter': None, '_connection_lost': False, '_stream_reader': <StreamReader t=<_SelectorSocketTransport fd=34 read=polling write=<idle, bufsize=0>>>, '_stream_writer': None, '_client_connected_cb': None, '_over_ssl': False}
ds[2364]

在调用loop.close()之前,看起来这些dict将永远存在。我很困惑。我我不想关闭通过tornado.ioloop.IOLoop.IOLoop.current().asyncio_loop从龙卷风中借来的循环。有没有其他方法可以在不关闭循环的情况下正确关闭/清理这些连接?

1 个答案:

答案 0 :(得分:3)

问题原因不在于await mc.close()

我有点惊讶地发现协程在没有明确安排的情况下实际上无法运行。我天真地认为它最终会在将来某个时候被召唤。但是,coroutine docs显式声明:

  

调用协程不会启动其代码运行 - 协程   调度返回的对象在您安排它之前不会执行任何操作   执行。启动它有两种基本方法:调用await coroutine   或来自另一个协程的yield from coroutine(假设是   其他协同程序已在运行!),或使用安排执行   ensure_future()函数或AbstractEventLoop.create_task()   方法