Keras负载模型需要大量时间来加载检查点

Question

我正在创建检查点，所以我可以重新开始训练。

Edit src/App.js and save to reload.

但是当我尝试恢复训练时，加载checkpoint = ModelCheckpoint('model.h5', monitor='val_loss', verbose=1, save_best_only=True, mode='min') 的速度非常慢。

model.h5

有没有办法解决这个问题？

Answer 1

.h5扩展名是最快加载任何大文件的文件之一。加载重量时可能需要注意几点

1. 您使用的是普通硬盘吗？
2. 您是否正在使用GPU？
3. 如果没有GPU，则将其加载到RAM中
4. 如果旧的处理器可能需要一些时间来加载，则加载和卸载操作会占用大量CPU资源

Answer 2

使用ModelCheckpoint而不使用save_weights_only=True保存模型也将保存优化器状态。您可能会注意到，保存的文件大小比仅带有重量的文件大得多。

较大的文件加载较慢，尤其是在CPU速度较慢的情况下。 Colab在GPU实例上使用1个核心CPU，因此速度确实很慢。

如果您目前仅想恢复培训，请使用save_weights_only=True，并且在恢复时，创建模型并使用model.load_weight应该更快。但是请注意，优化器将重置。