如何分析Python脚本的CPU使用情况?

时间:2018-03-09 16:17:09

标签: python keras profiling cpu-usage

理想情况下,我想要的是记录执行深度神经网络Keras模型的Python脚本的CPU使用情况。我正在寻找相当于memory_profiler的CPU,它提供了进程的内存消耗。

我看过使用psutil(在this answer中建议),这表明我的脚本可能包含某些

的变体
p = psutil.Process(current_pid)
p.cpu_percent()

但问题是重要的函数调用我真的想要捕获模型的推理阶段的影响

model.predict(x_test)

如果我在此步骤之前/之后运行psutil,则记录的CPU使用率将不会真实反映该进程的CPU使用情况。

那么我想我可以使用top / htop这样的东西将脚本的CPU使用率记录到某个文件中,捕获进程中的CPU使用量波动 正在运行,然后计算事后的平均值(或类似的东西)。然而,我看到的问题是,我不需要知道使用顶部的PID, 那么如何在脚本执行之前使用top来监控脚本(甚至还没有分配PID)?

我可以看到this highly-ranked answer建议 cProfile,它给出了脚本中函数的运行时间。虽然这不是我想要的,但我注意到它会返回 CPU秒的总数,这至少可以让我比较这方面的CPU使用率。

1 个答案:

答案 0 :(得分:2)

您可以在子进程中运行model.predict(x_test)并在主进程中同时记录其CPU使用情况。例如,

import time
import multiprocessing as mp
import psutil
import numpy as np
from keras.models import load_model

def run_predict():
    model = load_model('1.h5')
    x_test = np.random.rand(10000, 1000)
    time.sleep(1)

    for _ in range(3):
        model.predict(x_test)
        time.sleep(0.5)

def monitor(target):
    worker_process = mp.Process(target=target)
    worker_process.start()
    p = psutil.Process(worker_process.pid)

    # log cpu usage of `worker_process` every 10 ms
    cpu_percents = []
    while worker_process.is_alive():
        cpu_percents.append(p.cpu_percent())
        time.sleep(0.01)

    worker_process.join()
    return cpu_percents

cpu_percents = monitor(target=run_predict)

上述脚本的cpu_percents中的值类似于: