缩放运行python的节点js服务器

Question

我创建了一个使用express的节点服务器，它运行在后台运行gpu的python程序来处理输入/请求。我能够在浏览器上显示输出。如何使我的节点服务器可以处理多个并发。我应该使用队列来处理请求吗？如果是，我该如何开始？我需要一个明确的方法。

Answer 1

默认情况下，Node.js由于它的异步事件循环而设置为高性能。

但是，对于多核系统，您可以查看群集模块以扩展您的API：https://nodejs.org/api/cluster.html

请注意，对于可伸缩性，Node.js后端理想情况下应该是无状态的。