如何使用REST API端点启动TensorFlow Serving ModelServer

Question

我正在尝试利用将HTTP请求发送到TensorFlow ModelServer的新可能性。但是，当我尝试运行以下命令时，它无法识别--rest_api_port参数：

tensorflow_model_server --rest_api_port=8501 \
   --model_name=half_plus_three \
   --model_base_path=$(pwd)/serving/tensorflow_serving/servables/tensorflow/testdata/saved_model_half_plus_three/

unknown argument: --rest_api_port=8501

Answer 1

我遇到了相同的错误。我浏览了源代码。

在main.cc文件中，下面的源代码版本r1.7中没有rest_api_port选项。

因此，如果要使用REST，则需要使用上面的 tensorflow-serving r1.8 或自行实现。

希望这对您有帮助。