每次使用tensorflow Estimator进行预测而无需从检查点加载

Question

我有一个tensorflow Estimator，我已经对某些数据进行了训练，我想用它来进行预测。我正在使用它来构建带有RNN的文本，因此步骤t + 1的输入取决于步骤t的输出，这意味着我无法一次全部运行它。因此，简单的设置如下：

while not done:
  output = estimator.predict(text)
  append output to text

当我在Keras工作时，这很好用。但是在新的Estimator框架中，每次调用predict都会重建并重新加载整个模型，并且此循环的运行速度非常慢。

是否可以预加载模型，然后调用预测？我似乎在API中找不到类似的内容。