一个模型可以在cpu上训练用于cpu进行推理，反之亦然？

Question

我想知道在GPU上训练的模型是否可以用于与cpu进行推理？ （反之亦然） 谢谢你！

Answer 1

只要您的模型没有明确的设备分配，您就可以执行此操作。 IE，如果你的模型有像with tf.device('gpu:0')这样的模块，当你在没有GPU的模型上运行它时，它会抱怨。

在这种情况下，您必须确保导入的模型没有明确的设备分配，例如，但在import_meta_graph中使用clear_devices参数