来自tensorflow服务的istio指标

时间:2018-08-20 08:31:23

标签: tensorflow kubectl istio amazon-eks

我在kubernetes上使用kube flow在云中运行ML模型。我已经使用istio-demo.yaml文件将istio-system安装为名称空间。另外,我已经安装了Prometheus和Grafana以可视化数据。 ML模型在默认名称空间上运行,并且每个模型都是一个服务。现在..我想知道如何设置带有Promthesus的istio来收集与请求数量,错误请求,每个请求的持续时间等有关的指标。我想从ML模型X中看到Y个请求,Z个错误请求,依此类推。所有这些模型都在AWS EKS上运行

提前谢谢!

0 个答案:

没有答案