在TF服务中或TF图的一部分中进行外部数据库查找

Question

我有一个打算使用tensorflow进行模型推断的tensorflow模型。

只是想知道是否有一种方法可以在服务接收到请求之后，再将其转到张量流模型之前，添加一些自定义逻辑。具体来说，我需要从外部数据库进行查找的步骤，该步骤将丰富应用程序通过REST调用接收的数据。

或者，这是否可以作为张量流图的一部分？

如果可以将单独的服务捆绑在服务层中，听起来太过分了。

Answer 1

我想说，您可以将TF服务器包装在flask应用程序之类的应用程序中，该应用程序接收REST请求，应用其他逻辑（数据库查找），然后填充请求并将其发送到TF服务器（通过HTTP或gRPC）。我认为不可能将其作为“ TF图的一部分”进行。