当前,我有frontend
,backend
和tf-serving
服务。我当前的配置在外部公开了frontend
和backend
服务。
服务tf-serving
是仅由backend
服务使用的内部服务。他们使用TensorFlow Serving提供的gRPC API进行通信。
tf-serving
是否也可以实现负载均衡,这样当我从backend
服务中调用时,Traefik会为我进行负载均衡吗?
答案 0 :(得分:0)
是的,有可能。但是,更好的方法是将tf-serving服务与后端服务连接到同一网络(或为它们中的两个创建一个单独的网络),然后使用容器名称dns解析从后端直接连接到它。