如何使用CuDNN ops在GPU上进行训练,然后部署到CPU?

时间:2018-11-29 05:12:17

标签: tensorflow keras

如果我使用keras.layers.CuDNNGRU使用的特定于GPU的操作在GPU上训练我的网络,最终我该如何部署经过训练的网络以使用CPU进行推理?需要将特定于GPU的部分转换为通用部分。否则,图形必须在没有GPU的情况下才能运行。但是,我不知道可以进行这种转换的工具。

例如,训练结束后,如何将冻结的GraphDef或保存的图形转换为不带keras.layers.CuDNNGRU的图形,而改为具有keras.layers.GRU这样的CPU友好型功能,当然可以保留推理行为?

0 个答案:

没有答案
相关问题