Amazon Sagemaker上的非常自定义模型

时间:2019-05-02 19:51:07

标签: python amazon-sagemaker

我试图更好地了解Amazon Sagemaker的工作方式。我有一个计划可以使用我自己的模型运行它。为了简单起见,我将采用以下模型,该模型不需要培训。

def ult_model(x):
    return 2*x

这是我的理解,该如何在Amazon Sagemaker中使用它:

  • 我需要创建docker映像。
  • 我需要注册docker镜像。
  • 我想我可以在app.py文件中声明整个模型了吗?
  • 我运行一些代码来注册模型并进行部署(Sagemaker将读取所有内容 来自app.py关于我的模型的信息,包括predict方法)

从概念上讲这是正确的吗?在哪里可以找到与我的模型相似的教程?

P.S。我已经阅读了有关Sagemaker的多个教程

2 个答案:

答案 0 :(得分:1)

您可以使用SageMaker示例检查Github存储库,例如用于自带容器的存储库:https://github.com/awslabs/amazon-sagemaker-examples/tree/master/advanced_functionality/scikit_bring_your_own/container

SageMaker推理部分的主要思想是简化将模型部署到生产中的过程。生产的含义很广泛,其中包括:

  • 性能(使用ngnix,gunicorn和flask提供您的Python代码),
  • 自动化(s3中的模型文件,ECR中的docker映像-容器存储库),
  • 比例(运行模型的车队的自动比例缩放)
  • 实时测试(您可以通过A / B测试来控制每个模型版本的流量百分比)
  • 监控(与CloudWatch集成以获取性能指标)
  • 安全性(使用对每个端点的IAM权限的细粒度控制)

对于数据科学家而言,使用SageMaker SDK和A / B测试内置功能将新模型部署到生产中也相对容易。

答案 1 :(得分:1)

我没有足够的代表对此发表评论,但是Guy链接的SageMaker样本笔记本实际上是一个逐步教程,用于构建和注册自己的容器并将其托管在SageMaker上:https://github.com/awslabs/amazon-sagemaker-examples/blob/master/advanced_functionality/scikit_bring_your_own/scikit_bring_your_own.ipynb