给定一个张量和一个图TF Serving如何知道如何处理它们

Question

给出一组输入，Tensorflow Server如何知道如何使用其输入数据执行图形？尤其是在给定一组图附加数据的排列的情况下，张量流服务如何知道如何处理它们？

Answer 1

Tensorflow服务需要保存的模型。文档为here。保存过程的一部分是为预测变量声明输入接口。 Tensorflow提供了不同的方法来定义此接口。但是，大多数方法都不允许在服务端对输入数据进行大量处理。

“图形加数据的排列”是什么意思？为了进行预测，您可能没有数据的排列。模型的排列可以在框架模型内部完成，也可以在外部使用多个模型完成。