使用AWS在虚拟机上部署我自己的Tensorflow模型

时间:2018-07-25 10:50:41

标签: tensorflow amazon-ec2 tensorflow-serving amazon-sagemaker

我有一个Tensorflow模型,可以在我的笔记本电脑上完美运行(在OS HighSierra上为Tf 1.8)。但是,我想扩大操作范围,并使用Amazon的虚拟机更快地运行预测。使用保存的模型并对jpeg格式的图像进行本地存储的最佳方法是什么?谢谢!

1 个答案:

答案 0 :(得分:0)

您有两个选择:

1)在AWS上启动虚拟机(称为Amazon EC2实例)。您可以从许多不同的实例类型中进行选择,包括GPU实例。您将在此计算机上具有完全的管理访问权限,这意味着您可以将TF模型复制到该计算机上,并像在您自己的计算机上一样进行预测。

此处提供有关EC2入门的更多详细信息:https://aws.amazon.com/ec2/getting-started/

我还建议您使用深度学习Amazon Machine Image,它捆绑了所有流行的ML / DL工具以及用于GPU训练/预测的NVIDIA环境:https://aws.amazon.com/machine-learning/amis/

2)如果您不想管理虚拟机,建议您查看Amazon SageMaker。您将能够导入TF模型并将其部署在完全托管的基础架构上以进行预测。

这是一个示例笔记本,向您展示如何将自己的TF模型带到SageMaker:https://github.com/awslabs/amazon-sagemaker-examples/blob/master/advanced_functionality/tensorflow_iris_byom/tensorflow_BYOM_iris.ipynb

希望这会有所帮助。