在本地部署训练有素的Sagemaker Mxnet对象检测模型？

Question

我已经在AWS Sagemaker上训练了对象检测模型。我想在我的机器上本地使用此模型。我下载了这个模型，该模型包含3个文件hyperparams.json，model-symbol.json和model-0000.params。我看过很多教程，可以在本地部署对象分类模型，但没有任何对象检测模型。

Answer 1

有不同的可能性：

• 您可以在计算机上本地安装SageMaker Python SDK，并使用SageMaker在本地训练和部署模型。因此，您需要在MXNet Estimator中指定train_instance_type ='local'。然后，SageMaker将把S3中的数据提取到您的本地计算机中，并在那里训练模型。然后，mxnet_estimator.deploy将在本地部署模型。您可以在这里找到详细的说明
• 您可以使用MXNet的模型服务器。您需要将模型文件转换为模型档案（.mar），可以通过以下方式进行部署：mxnet-model-server --models mymodel=mymodel.mar

Answer 2

正如NRauschmayr所述，如果您还使用SageMaker的Python SDK本地模式功能来在SageMaker上进行培训，则可能会很方便。一项小小的修正是，由于您对本地部署感兴趣，因此会将预测变量的instance_type设置为“ local”。您可以在此处了解有关本地模式的更多信息：https://sagemaker.readthedocs.io/en/stable/overview.html#local-mode