Sagemaker documentation解释说,我们可以创建一个可以支持多种模型的端点。但是,我找不到有关如何将同一模型用于批处理转换的文档。 可以将在多模型端点中使用的同一模型也用于批处理转换吗?
答案 0 :(得分:0)
在多模型端点中使用的同一模型也可以用于批处理转换吗?
当前不是。
但是,您可以使用推理管道模型来支持端点或运行批处理转换作业:https://docs.aws.amazon.com/sagemaker/latest/dg/inference-pipelines.html