简化Node.js服务器的速率限制算法

时间:2016-02-02 20:11:24

标签: node.js algorithm server rate-limiting

我想出了一个针对Node.js服务器的速率限制算法的天真解决方案,我相信有一种方法可以简化它,但我不确定它是怎么回事。

我们希望将请求限制为每秒50次。因此,如果最新请求进入并且最新请求和请求之间的时间不到一秒,我们应该拒绝新请求。

实现这个的简单方法是拥有一个包含50个时间戳的简单数组。每次进入事件时,我们都会为其赋值Date.now()/ process.hrtime()。然后我们查看队列中第50个(最后一个)时间戳的时间戳值和新请求的Date.now()值,如果时间戳的差异大于1秒,那么我们接受新请求并将其卸载到“队列”,并从队列中弹出最旧的时间戳。但是,如果差异小于1秒,我们必须拒绝该请求,并且我们不会将其卸载到队列中,并且我们不会关闭最旧的时间戳。

以下是我在Express服务器上的代码

var mostRecentRequestsTimestamps = [];

app.use(function(req,res,next){

    if(req.baymaxSource && String(req.baymaxSource).toUpperCase() === 'XRE'){

        var now = process.hrtime(); //nanoseconds

        if(mostRecentRequestsTimestamps.length < 50){
            mostRecentRequestsTimestamps.unshift(now);
            next();
        }
        else{
            var lastItem = mostRecentRequestsTimestamps.length -1;
            if(now - mostRecentRequestsTimestamps[lastItem] < 1000){  // 1000 milliseconds = 1 second
                res.status(503).json({error: 'Server overwhelmed by XRE events'});
            }
            else{
                mostRecentRequestsTimestamps.pop();
                mostRecentRequestsTimestamps.unshift(now);
                next();
            }
        }
    }
    else{
        next();
    }

});

正如您所看到的,它只会阻止事件来自某个特定来源,因此它不应该饿死其他类型的请求。这个逻辑需要50个时间戳的数据结构,这基本上没什么,但我希望有一种方法可以进一步简化这个时间戳。有人有主意吗?感谢

1 个答案:

答案 0 :(得分:1)

这是我能做到的最简单的事情:

// oldest request time is at front of the array
var recentRequestTimes = [];
var maxRequests = 50;
var maxRequestsTime = 1000;

app.use(function(req,res,next){
    if(req.baymaxSource && String(req.baymaxSource).toUpperCase() === 'XRE'){
        var old, now = Date.now();
        recentRequestTimes.push(now);
        if (recentRequestTimes.length >= maxRequests) {
            // get the oldest request time and examine it
            old = recentRequestTimes.shift();
            if (now - old <= maxRequestsTime) {
                // old request was not very long ago, too many coming in during that maxRequestsTime
                res.status(503).json({error: 'Exceeded 50 requests per second for XRE events'});
                return;
            }
        }
    }
    next();
});

这在概念上与您的实现有两种不同的方式:

  1. 我按递增顺序使用recentRequestTimes数组(这对我的编程大脑来说更合乎逻辑)
  2. 我总是将每个请求都添加到数组中,即使它已经超载了。您没有计算过重的请求,我认为这是错误的。这也简化了代码,因为您可以在一个地方添加函数开头的当前时间,然后只处理数组。