我正在使用model.load()在keras中加载一个模型,并且发现第一个预测的计算时间比预测的时间长10倍以上,任何可能出现这种情况的想法或建议加载 - 初始化 - 首先预测周期加速将非常感激。
我正在使用Tensorflow后端进行CPU处理。
感谢您的帮助, Denym
答案 0 :(得分:1)
好的,我找到了适合我的答案:
如果您同时加载许多模型,请不要使用keras model.load函数,将结构保存为json / yaml,将权重保存为.h5并按照keras示例加载。
在处理少于5个模型时,model.load函数要快得多,但加载时间会以指数方式增加同时加载的模型。
当从加载结构和权重方法加载结构和权重方法时,从json加载和从.h5加权的速度提高了10倍,而且每个模型都有一些减速,它是线性的而不是指数的,这使得加载许多模型时速度明显加快马上。