Python asyncio强制超时

时间:2015-02-19 14:58:23

标签: python python-asyncio

使用asyncio可以在超时时执行协程,以便在超时后取消:

@asyncio.coroutine
def coro():
    yield from asyncio.sleep(10)

loop = asyncio.get_event_loop()
loop.run_until_complete(asyncio.wait_for(coro(), 5))

以上示例按预期工作(5秒后超时)。

但是,当协同程序不使用asyncio.sleep()(或其他asyncio协同程序)时,它似乎没有超时。例如:

@asyncio.coroutine
def coro():
    import time
    time.sleep(10)

loop = asyncio.get_event_loop()
loop.run_until_complete(asyncio.wait_for(coro(), 1))

这需要超过10秒才能运行,因为time.sleep(10)未被取消。在这种情况下是否可以强制取消协程?

如果应该使用asyncio来解决这个问题,我怎么能这样做?

3 个答案:

答案 0 :(得分:12)

不,你不能中断协程,除非它将控制权交还给事件循环,这意味着它需要在yield from调用内。 asyncio是单线程的,因此当您在第二个示例中对time.sleep(10)调用进行阻止时,无法运行事件循环。这意味着当您使用wait_for设置的超时到期时,事件循环无法对其执行操作。事件循环没有机会再次运行,直到coro退出,此时为时已晚。

这就是为什么一般来说,你应该总是避免任何不同步的阻塞调用;任何时候一个调用阻塞而没有屈服于事件循环,你的程序中没有其他东西可以执行,这可能不是你想要的。如果你真的需要做一个很长的阻塞操作,你应该尝试使用BaseEventLoop.run_in_executor在线程或进程池中运行它,这将避免阻塞事件循环:

import asyncio
import time
from concurrent.futures import ProcessPoolExecutor

@asyncio.coroutine
def coro(loop):
    ex = ProcessPoolExecutor(2)
    yield from loop.run_in_executor(ex, time.sleep, 10)  # This can be interrupted.

loop = asyncio.get_event_loop()
loop.run_until_complete(asyncio.wait_for(coro(loop), 1))

答案 1 :(得分:1)

Thx @dano为您的答案。如果运行coroutine并不是一项艰难的要求,那么这是一个重新设计的,更紧凑的版本

import asyncio, time, concurrent

timeout = 0.5
loop = asyncio.get_event_loop()
future = asyncio.wait_for(loop.run_in_executor(None, time.sleep, 2), timeout)
try:
    loop.run_until_complete(future)
    print('Thx for letting me sleep')
except concurrent.futures.TimeoutError:
    print('I need more sleep !')

对于好奇,我的Python 3.5.2中的一点调试表明,传递None作为执行者会导致创建_default_executor,如下所示:

# _MAX_WORKERS = 5
self._default_executor = concurrent.futures.ThreadPoolExecutor(_MAX_WORKERS)

答案 2 :(得分:0)

我看到的超时处理示例非常简单。鉴于现实,我的应用程序有点复杂。顺序是:

  1. 当客户端连接到服务器时,让服务器创建另一个与内部服务器的连接
  2. 当内部服务器连接正常时,等待客户端发送数据。根据这些数据,我们可以向内部服务器进行查询。
  3. 当有数据要发送到内部服务器时,发送它。由于内部服务器有时响应速度不够快,请将此请求包装为超时。
  4. 如果操作超时,请折叠所有连接以向客户端发出有关错误的信号
  5. 为了实现上述所有目标,在保持事件循环运行的同时,生成的代码包含以下代码:

    def connection_made(self, transport):
        self.client_lock_coro = self.client_lock.acquire()
        asyncio.ensure_future(self.client_lock_coro).add_done_callback(self._got_client_lock)
    
    def _got_client_lock(self, task):
        task.result() # True at this point, but call there will trigger any exceptions
        coro = self.loop.create_connection(lambda: ClientProtocol(self),
                                               self.connect_info[0], self.connect_info[1])
        asyncio.ensure_future(asyncio.wait_for(coro,
                                               self.client_connect_timeout
                                               )).add_done_callback(self.connected_server)
    
    def connected_server(self, task):
        transport, client_object = task.result()
        self.client_transport = transport
        self.client_lock.release()
    
    def data_received(self, data_in):
        asyncio.ensure_future(self.send_to_real_server(message, self.client_send_timeout))
    
    def send_to_real_server(self, message, timeout=5.0):
        yield from self.client_lock.acquire()
        asyncio.ensure_future(asyncio.wait_for(self._send_to_real_server(message),
                                                       timeout, loop=self.loop)
                                      ).add_done_callback(self.sent_to_real_server)
    
    @asyncio.coroutine
    def _send_to_real_server(self, message):
        self.client_transport.write(message)
    
    def sent_to_real_server(self, task):
        task.result()
        self.client_lock.release()