我知道一次可以运行多个模型,您可以在配置文件中指定,如here所述。
就我而言,我想要使用model_A
,model_B
和model_C
启动服务器,并在以后添加新的model_D
重新启动服务器(因为我不想中断模型A,B和C的服务)。
有没有办法达到这个要求?
答案 0 :(得分:1)
以下提交添加了此功能(应该在TensorFlow服务1.7.0及更高版本中添加:
https://github.com/tensorflow/serving/commit/79d3354cd8a408fb981670512d661c2b7e89f5bf