Keras花了很长时间在model.load()之后进行第一次预测

时间:2017-08-31 06:34:06

标签: tensorflow optimization neural-network keras prediction

我正在使用model.load()在keras中加载一个模型,并且发现第一个预测的计算时间比预测的时间长10倍以上,任何可能出现这种情况的想法或建议加载 - 初始化 - 首先预测周期加速将非常感激。

我正在使用Tensorflow后端进行CPU处理。

感谢您的帮助, Denym

1 个答案:

答案 0 :(得分:1)

好的,我找到了适合我的答案:

如果您同时加载许多模型,请不要使用keras model.load函数,将结构保存为json / yaml,将权重保存为.h5并按照keras示例加载。

在处理少于5个模型时,model.load函数要快得多,但加载时间会以指数方式增加同时加载的模型。

当从加载结构和权重方法加载结构和权重方法时,从json加载和从.h5加权的速度提高了10倍,而且每个模型都有一些减速,它是线性的而不是指数的,这使得加载许多模型时速度明显加快马上。