我的模型交替执行100次推理和一次训练,所以我希望推理尽可能快。我看到许多网页讨论如何在Tensorflow中冻结已保存的图形,但是我想在不将权重保存到文件的情况下进行快速推理......就像PyTorch一样,我更习惯于此。将权重保存到文件并冻结文件中的图形需要一段时间,我想避免这种情况。在PyTorch中,使用volatile = True推断两次更快,所以我期望通过冻结图表在Tensorflow中获得相同的加速。
那么,有人能告诉我Tensorflow中的volatile和requires_grad对应物是什么吗?如果它们不存在,那么实现目标的推荐方法是什么?使用tf.stop_gradient或tf.estimator.ModeKeys.PREDICT解决了我的问题吗?