如何将深度学习模型(Python)部署到Web应用程序(节点)

时间:2016-08-11 16:19:03

标签: node.js web machine-learning tensorflow deep-learning

您好我对机器学习很感兴趣。

熟悉keras和tensorflow,知道如何训练模型并保存它。

我想构建提供机器学习API的node.js(loopback)Web应用程序。

我对Web应用程序很陌生,不知道如何在节点应用程序中使用python代码。

具体来说,我正在努力为this site做出深刻的风格应用,以达到练习目的。

对于在github中向公众开放的代码。大多数已加星标的实施是在火炬和

I am currently looking (TF)

它的脚本工作为“main.py”,由

组成
1) loading pretrained VGG model(about 500Mb) to memory.

2) and using each framework's function, it create output photo inside folder

所以我想在AWS中使用GPU实例来运行它

问题是,我不知道如何在javascript中调用“main.py”。

Q1 许多基于机器学习的服务是如何实现的?

他们是否像django一样在python中实现他们的服务器来加载经过训练的模型和推理?

但我想在node.js中集成特别是loopback。我怎样才能以最有效和最常见的方式实现这一目标?

Q2 每当有对服务器的请求时,都会调用“main.py”高效吗?

我的意思是,如果每次请求都调用脚本,它会一直将500Mb对象加载到内存中,这样效率很低。

据我所知,AWS GPU实例一次可以使用4个GPU。我想知道如何以最有效和最常见的方式利用所有这些......

感谢您的阅读!

我对自己太沮丧了...我真的想知道方法将我的模型部署到服务器

并提前感谢

1 个答案:

答案 0 :(得分:1)

您可以在NodeJS之间进行通信,例如带有REST接口的Django。使用REST框架部署Django服务器并从NodeJS调用URL。这样,您就可以触发python代码。如果需要,您还可以让python代码在javascript端使用另一个REST接口调用NodeJS。