如何在回调中获得未来的结果?

时间:2016-11-08 01:28:08

标签: python distributed dask

add_done_callback方法最近添加到分布式Future对象中,允许您在将来完成后执行某些操作,无论其是否成功。

http://distributed.readthedocs.io/en/latest/api.html?highlight=add_done_callback#distributed.client.Future.add_done_callback

如果您尝试直接调用传递的未来对象上的任何方法resultexceptiontraceback,则回调函数将挂起。

但是,可以在回调中访问异常和回溯,如下所示: fut._exception().result() fut._traceback().result()

尝试使用与结果相同的模式 - 即fut._result().result()引发异常:

  File "C:\Python\lib\site-packages\tornado\concurrent.py", line 316, in _check_done
    raise Exception("DummyFuture does not support blocking for results")
Exception: DummyFuture does not support blocking for results

无法在回调中访问未来的结果,能够添加回调对我来说是有限的用途。

我错过了什么 - 有没有办法在回调中获得未来的结果?

在asyncio文档中,它似乎给出了一个可以直接访问result方法的示例:

https://docs.python.org/3/library/asyncio-task.html#example-future-with-run-forever

...我不确定这与龙卷风/分布式有什么关系,但是能够做到这一点的非常非常有用。

from distributed import Client


client = Client("127.0.0.1:8786")

def f(delay):
    from time import sleep
    from numpy.random import randn
    sleep(delay)
    if randn() > 1:
        1/0
    return delay

def callback(fut):
    import logging
    logger = logging.getLogger('distributed')
    if fut.status == 'finished':
        res = future._result().result()  # <-------------- Doesn't work!
        logger.info("{!r} - {!s}".format(fut, res))
    else:
        logger.info("{!r} - {!s}".format(fut, fut.status))


args = rand(10)
futs = client.map(f, args)
for fut in futs:
    fut.add_done_callback(callback)

1 个答案:

答案 0 :(得分:1)

目前,您的回调会在Tornado Event循环中被调用。如果您想获得未来的结果,您将不得不使用Tornado API。

这是一个最小的例子:

In [1]: from distributed import Client
In [2]: client = Client()
In [3]: def inc(x):
   ...:     return x + 1
   ...: 
In [4]: from tornado import gen

In [5]: @gen.coroutine
   ...: def callback(future):
   ...:     result = yield future._result()
   ...:     print(result * 10)
   ...:     
In [6]: future = client.submit(inc, 1)

In [7]: future.add_done_callback(callback)

20

但是,您的问题强调,这可能不是用户与add_done_callback进行交互的最直观方式,因此如果我们为更高版本引入了重大更改,我不会感到惊讶。

In [8]: import distributed

In [8]: distributed.__version__
Out[8]: '1.14.0'