在nginx阻止我之前,如何找到我可以对网站发出的请求数量

时间:2015-10-26 20:33:41

标签: nginx web-crawler

如果我正在尝试抓取并从网站中提取数据,我应该知道在发现403禁止错误之前我每小时可以发出的请求数。有没有办法可以找到网站的费率?

1 个答案:

答案 0 :(得分:0)

不,每个服务器都有自己的限制。可能有服务器不会介意你在附近,并给他们任意多的点击量。

http://nginx.org/en/docs/http/ngx_http_limit_req_module.html

另外,一般来说,做你想做的事并不是一个好主意。

作为旁注,有Twitter等网站允许您每天,每小时等发出n次请求。如果是这种情况,通常会在网站上记录。开发者文件。