生产就绪的TF服务:客户端和服务器身份验证

时间:2019-10-10 12:49:55

标签: docker tensorflow ssl docker-swarm tensorflow-serving

我正在尝试为生产环境设置tf服务模型服务器。要求是:

  • 码头工人群中的容器
  • 通过gRPC进行通信
  • 少量(不断增长)的客户
  • 专用服务器
  • haproxy后面

我正在运行docker容器,并通过gRPC与之成功通信。现在,我想使其投入生产。加密tf服务模型服务器和客户端之间的连接是必要的。

尽管文档稀疏,但我已经成功创建了带有自签名证书的ssl_config.pbtxt文件(只需将密钥与证书内容连接在一起)。这使我可以与本地容器进行加密通信。

但是,对于生产部署,我想使用已经存在的letencrypt证书将服务器授权给客户端。但是我还需要通过服务器对客户端进行身份验证。

所以问题是:我如何使用letencrypt提供的现有TLS加密并仍通过模型服务器对客户端进行身份验证?这有可能吗?替代方法是直接将IP连接代理到tf服务容器吗?

0 个答案:

没有答案