如何在Mac上本地运行张量流模型

Question

我在Sagemaker中部署了ML模型。我将模型（tar.gz）复制到了我的Mac，并尝试在本地编写该tar.gz模型文件的运行。我需要将输入作为图像传递给该模型，并在本地提供输出。如何编写python代码以在本地运行此完整设置。

Answer 1

一种解决方案是使用SageMaker Python SDK的本地模式功能：

from sagemaker.tensorflow.serving import Model

model = Model(
    model_data='s3://bucket/path/to/your/model',
    ...  # fill in your other params
)

predictor = model.deploy(1, 'local')
predictor.predict(your_data)

更多信息：https://sagemaker.readthedocs.io/en/stable/overview.html#local-mode

如果您不想使用SageMaker的本地模式，则可以在https://www.tensorflow.org/tfx/guide/serving上找到常规的TF服务文档。