部署模型

Question

我已经训练了一个模型并进行了部署，但是在输入的情况下，它最多需要20秒进行分类（导入依赖项，加载模型，进行分类）。我可以做些什么将模型永久保存到RAM中并在需要时使用它？

Answer 1

您不保存模型，而是要加载并使用它。只需将模型变量定义为模块变量即可。参见How to create module-wide variables in Python?

Answer 2

我不知道您的系统配置，但是就我个人而言，在客户端上进行部署时，我会在本地计算机上使用“服务”，并使用Web服务。这样一来，您就可以一次加载依赖项和模型，然后只要您的服务正在运行，它就会保留在内存中。这样，您几乎可以立即访问模型。