当前,我已经使用SageMaker Jupyter笔记本来构建,训练,HPO和部署RCF模型。
现在,我要生成用Juypter笔记本编写的Python代码。只想只从AWS获取EC2实例,并要照顾部署。
由于我要部署近100个模型,所以我想使用docker容器,但这是我遇到的一些问题:
我们要在单个docker容器中部署多个模型吗?
有多少个Docker容器可以创建一个EC2实例?
为笔记本中的火车,HPO和推理编写的代码段。在我们进行容器化时如何使用它?
如何在容器中暴露端点?
是否存在带有容器化的部署示例?
是否可以通过安装SageMaker库将EMR群集用于HPO?