提供用文件训练的服务张量流模型

时间:2017-08-30 22:43:01

标签: python tensorflow tensorflow-serving tensorflow-gpu

如果有人有与我相似的用例,那就很好奇:

我的张量流模型使用tfrecord文件和queue runner进行训练。因此,图表不使用占位符。

现在我如何保存模型并在线服务?在服务期间,我们需要将所请求的数据提供给图表。如果没有占位符,那么我们没有地方可以提供。

谢谢!

1 个答案:

答案 0 :(得分:0)

实际上TensorFlow接受Tensor作为placeholder使用,例如:

q = tf.FIFOQueue(10, dtypes=tf.int32)
a = q.dequeue()
w = tf.constant(2)
c = a * w
sess = tf.Session()
sess.run(c, feed_dict={a:1})

因此,在导出模型时输入不必是placeholder,您可以在出列后作为服务的输入进行任何张量。