理想情况下,我想要的是记录执行深度神经网络Keras模型的Python脚本的CPU使用情况。我正在寻找相当于memory_profiler的CPU,它提供了进程的内存消耗。
我看过使用psutil(在this answer中建议),这表明我的脚本可能包含某些
的变体p = psutil.Process(current_pid)
p.cpu_percent()
但问题是重要的函数调用我真的想要捕获模型的推理阶段的影响
model.predict(x_test)
如果我在此步骤之前/之后运行psutil,则记录的CPU使用率将不会真实反映该进程的CPU使用情况。
那么我想我可以使用top / htop这样的东西将脚本的CPU使用率记录到某个文件中,捕获进程中的CPU使用量波动 正在运行,然后计算事后的平均值(或类似的东西)。然而,我看到的问题是,我不需要知道使用顶部的PID, 那么如何在脚本执行之前使用top来监控脚本(甚至还没有分配PID)?
我可以看到this highly-ranked answer建议 cProfile,它给出了脚本中函数的运行时间。虽然这不是我想要的,但我注意到它会返回 CPU秒的总数,这至少可以让我比较这方面的CPU使用率。
答案 0 :(得分:2)
您可以在子进程中运行model.predict(x_test)
并在主进程中同时记录其CPU使用情况。例如,
import time
import multiprocessing as mp
import psutil
import numpy as np
from keras.models import load_model
def run_predict():
model = load_model('1.h5')
x_test = np.random.rand(10000, 1000)
time.sleep(1)
for _ in range(3):
model.predict(x_test)
time.sleep(0.5)
def monitor(target):
worker_process = mp.Process(target=target)
worker_process.start()
p = psutil.Process(worker_process.pid)
# log cpu usage of `worker_process` every 10 ms
cpu_percents = []
while worker_process.is_alive():
cpu_percents.append(p.cpu_percent())
time.sleep(0.01)
worker_process.join()
return cpu_percents
cpu_percents = monitor(target=run_predict)
上述脚本的cpu_percents
中的值类似于: