使用AWS在虚拟机上部署我自己的Tensorflow模型

Question

我有一个Tensorflow模型，可以在我的笔记本电脑上完美运行（在OS HighSierra上为Tf 1.8）。但是，我想扩大操作范围，并使用Amazon的虚拟机更快地运行预测。使用保存的模型并对jpeg格式的图像进行本地存储的最佳方法是什么？谢谢！

Answer 1

您有两个选择：

1）在AWS上启动虚拟机（称为Amazon EC2实例）。您可以从许多不同的实例类型中进行选择，包括GPU实例。您将在此计算机上具有完全的管理访问权限，这意味着您可以将TF模型复制到该计算机上，并像在您自己的计算机上一样进行预测。

此处提供有关EC2入门的更多详细信息：https://aws.amazon.com/ec2/getting-started/

我还建议您使用深度学习Amazon Machine Image，它捆绑了所有流行的ML / DL工具以及用于GPU训练/预测的NVIDIA环境：https://aws.amazon.com/machine-learning/amis/

2）如果您不想管理虚拟机，建议您查看Amazon SageMaker。您将能够导入TF模型并将其部署在完全托管的基础架构上以进行预测。

这是一个示例笔记本，向您展示如何将自己的TF模型带到SageMaker：https://github.com/awslabs/amazon-sagemaker-examples/blob/master/advanced_functionality/tensorflow_iris_byom/tensorflow_BYOM_iris.ipynb

希望这会有所帮助。