我决定要研究用NodeJS服务器处理大量流量的最佳方法是什么,我对2台数字海洋服务器进行了一次小测试,该服务器具有1GB RAM / 2个CPU 无群集服务器代码:
// Include Express
var express = require('express');
// Create a new Express application
var app = express();
// Add a basic route – index page
app.get('/', function (req, res) {
res.redirect('http://www.google.co.il');
});
// Bind to a port
app.listen(3000);
console.log('Application running');
群集服务器代码:
// Include the cluster module
var cluster = require('cluster');
// Code to run if we're in the master process
if (cluster.isMaster) {
// Count the machine's CPUs
var cpuCount = require('os').cpus().length;
// Create a worker for each CPU
for (var i = 0; i < cpuCount; i += 1) {
cluster.fork();
}
// Code to run if we're in a worker process
} else {
// Include Express
var express = require('express');
// Create a new Express application
var app = express();
// Add a basic route – index page
app.get('/', function (req, res) {
res.redirect('http://www.walla.co.il');
});
// Bind to a port
app.listen(3001);
console.log('Application running #' + cluster.worker.id);
}
我向这些服务器发送了压力测试请求,除了集群服务器将处理更多请求但没有发生,两台服务器在同一负载上崩溃,尽管集群上运行了2个节点服务和1个服务在非集群上。
现在我想知道为什么?我做错了什么?
也许其他东西让服务器达到断点?两台服务器都以~800 rps的速度崩溃
答案 0 :(得分:8)
现在我想知道为什么?我做错了什么?
您的测试服务器除了res.redirect()
之外没有其他任何操作。如果您的请求处理程序基本上不使用CPU,那么您根本不会受CPU约束,并且您不会因涉及更多CPU而受益。您的群集在处理传入连接时会遇到瓶颈,无论是否有群集,这些连接都会大致相同。
现在,为您的请求处理程序添加一些重要的CPU使用率,您应该得到不同的结果。
例如,更改为:
// Add a basic route – index page
app.get('/', function (req, res) {
// spin CPU for 200ms to simulate using some CPU in the request handler
let start = Date.now();
while (Date.now() - start < 200) {}
res.redirect('http://www.walla.co.il');
});
运行测试是件好事,但你必须要小心你正在测试什么。
答案 1 :(得分:0)
@ jfriend00所说的是正确的;你实际上并没有做足够的重力来证明这一点,但是,你实际上并没有分担负担。见这里:
app.listen(3001);
你不能将两个服务绑定到同一个端口上,让操作系统神奇地对它们进行负载均衡[1];尝试在app.listen()
上添加错误处理程序,看看是否收到错误,例如
app.listen(3001, (err) => err ? console.error(err));
如果你想这样做,你必须接受主人的一切,然后指示工人完成任务,然后再将结果传回主人。
在您的Node程序中执行此操作通常更容易 ;你的前端仍然是限制因素。更简单(更快)的方法可能是将特殊用途的负载均衡器放在应用程序的多个运行实例(即HAProxy或Nginx)之前。
[1]:这实际上是一个谎言;抱歉。您可以通过在执行初始SO_REUSEPORT
调用时指定bind
来执行此操作,但您无法在Node中明确指定,并且Node不会为您指定它。 ..所以你不能在Node。