ML.NET启动后将新模型加载到预测引擎池中

时间:2020-05-08 08:35:53

标签: ml.net

我有2个.NET Core Web API项目设置为Docker容器,一个用于培训,另一个用于预测。在预测服务中,我基于此可扩展方式创建PredictionEnginePool-https://docs.microsoft.com/en-us/dotnet/machine-learning/how-to-guides/serve-model-web-api-ml-net

当用户向训练API提交请求以训练新模型时,model.zip文件将保存到PersistentVolume中,预测服务也可以访问该文件。之后,用户将提交另一个预测请求。如何在不重新启动预测API的情况下将此新训练的模型加载到预测引擎池中?

此外,如何通过modelName检查池中是否存在模型?

您能否提供示例代码以从文件夹中动态读取.zip文件,检查它们是否已在池中,如果没有,则将其添加到预测池中,所有这些都在startup.cs之外完成,可能在控制器内部还是服务层?

0 个答案:

没有答案