具有预处理功能的多模型推理AWS Sagemaker

时间:2020-10-16 09:39:08

标签: amazon-web-services amazon-sagemaker

我有一个用例,可以在一个sagemaker端点中托管多个xgboost模型。这些模型的特征集和特征的预处理稍有不同。

我正在考虑的两个选项是:

  1. 使用自定义docker映像创建模型,并使用生产变体将它们托管在一个端点中。然后,我将使用变体名称和正确的功能集调用端点。

  2. Sagemaker推理工具包(多模型服务器)。我打算在处理程序脚本中根据模型名称对输入进行不同的预处理。

这些是解决问题的正确方法吗?还是有更好的方法与Sagemaker和带有预处理和后处理的多个xgboost模型一起使用?

0 个答案:

没有答案