python twisted:检索延迟的执行时间

时间:2010-10-27 17:25:50

标签: python twisted deferred

我想知道Deferred执行的时间长度,从第一次回调被触发到最终结果。

关于如何做到这一点的任何想法,可能是以非侵入性的方式(意味着没有修改任何回调函数以跟踪执行时间)?

3 个答案:

答案 0 :(得分:7)

如果您在“twistd”的帮助下运行程序,那么它有一个选项“--profile”可以帮助您分析扭曲的代码。

twistd "other options" --profile=statsfile --profiler=cProfile --savestats

查看统计数据:

import pstats
stats = pstats.Stats('statsfile')
stats.sort_stats('time').print_stats()

在触发延迟后立即执行回调。但是立即意味着延迟链中的每个回调都必须执行,并且它们将有自己的执行时间。此外,各种代码片段都有自己的执行时间片,包括反应器循环。

所以说出这个词 - 马上就要尽快说出来。

考虑以下不好的例子:

from twisted.internet import reactor, defer
import time

def timeit(func):
    def wrapper(*arg):
        t1 = time.time()
        res = func(*arg)
        t2 = time.time()
        print '%s took %0.3f ms' % (func.func_name, (t2-t1)*1000.0)
        return res
    return wrapper

d = defer.Deferred()

@timeit
def callfunc1(result):
    print 'XXXXX'

@timeit   
def callfunc2(result):
    print 'YYYYY'

d.addCallback(callfunc1)   
d.addCallback(callfunc2)  
t1 = time.time()
d.callback(True)
t2 = time.time()
print '%0.3f ms' % ((t2-t1)*1000.0)

输出:

XXXXX
callfunc1 took 0.039 ms
YYYYY
callfunc2 took 0.005 ms
0.108 ms

现在,如果我们调整上面的代码以包含reactor和callLater

答案 1 :(得分:2)

猜猜你应该按照这种方式描述你的应用:

安装此工具http://kcachegrind.sourceforge.net/html/Home.html

解雇扭曲的应用并收集原始数据:

  

twistd --savestats -n --profile = myapp.hotshot myapp

,将'hotshot'转换为'calltree',运行:

  

hotshot2cg myapp.hotshot> myapp.calltree

现在我们可以在Kcachegrind工具中查看calltree。

  

kcachegrind myapp.calltree

使用此工具,您可以查看扭曲事件循环的调用图, 执行时间你可以看到百分数。 所以不需要修补代码,只需运行此工具并查看

P.S。检查内存: How to use guppy/heapy for tracking down memory usage

答案 2 :(得分:1)

对于我想要实现的目标,分析有点矫枉过正。

我最终得到的解决方案并不意味着对现有代码进行大量修改,但绝不是“通用”:

我原来的代码是这样的:

def myfunc(*args):
    d = Deferred()
    d.addCallback(cb1)
    ...
    d.addCallback(lambda x: MyObject(x))

我现在有:

def myfunc(*args):
    init_time = time.time()
    d = Deferred()
    d.addCallback(cb1)
    ...
    d.addCallback(lambda x: MyObject(x, init_time))

class MyObject:
    def __init__(self, *args):
        ...
        self.exec_time = time.time() - init_time

它正是我想要的,但我希望延迟结构会暴露出跟踪执行时间本身的东西,而不是必须修改我的对象。从源代码中,我看不到有这样的东西可用:http://twistedmatrix.com/trac/browser/tags/releases/twisted-10.0.0/twisted/internet/defer.py#L137