使用Tensorflow服务是否有规范的方法来维护有状态的LSTM等？
直接使用Tensorflow API这很简单 - 但我不确定在将模型导出到服务之后如何最好地在调用之间实现持久的LSTM状态。
有没有可以实现上述目的的例子？回购中的样品非常基本。
答案 0 :(得分：4)
来自TF邮件列表上的Martin Wicke：
“模型服务器中的有状态模型还没有很好的集成。正如你所说，它基本上假设模型是纯函数。我们正在研究这个问题，你应该看到这个功能最终会出现，但它太过分了在此期间，您可以编写一个简单的包装器，将状态保存在服务器上（并指定某种会话ID在请求中传递），或者您可以编写自己的服务器来维护TensorFlow会话state（并且类似地返回一些会话ID）。后者性能更高。两者都需要某种垃圾收集/会话超时逻辑。“