TensorFlow服务系统要求

Question

TensorFlow服务的最低系统要求是什么？我想这将取决于许多因素，例如我要服务的模型的大小。但是，是否有任何经验法则，例如张量流服务至少需要x的内存量，y的磁盘量和z的计算量？

Answer 1

到目前为止，模型本身将是对内存/计算要求的最大贡献者。使用Bazel进行构建将需要合理数量的内存，但是如果通过apt-get安装，则应该大大减轻这种负担。

This帖子中提到成功在Azure DS1 v1实例上运行tf-serving，该实例是1核3.5GB RAM。

总而言之，您应该更关注模型的需求，而不是tf服务。