我正在创建自己的Docker容器以与SageMaker一起使用,并且想知道为什么当我想进行批处理转换时,serve命令会创建Flask应用来对数据进行预测。仅解开模型并在要进行预测的数据集上运行模型的预测方法,会不会更简单?我不需要Web API /端点。我只需要每天自动生成一次预测即可。
答案 0 :(得分:1)
好问题:)使用完全相同的代码进行批处理推理和在线推理可减少开发开销-可以在两个用例中使用完全相同的堆栈-并减少了在批处理和某些事情之间产生不同结果的风险在线完成。话虽如此,SageMaker非常灵活,您可以使用Training API轻松完成您所描述的内容。训练API中没有任何内容可以强迫您使用它进行ML训练,它实际上是功能非常强大的docker Orchestrator,具有高级日志记录,元数据持久性,并且是为快速和分布式数据摄取而构建的。