我试图使用请求请求网站的html,但我一直收到拒绝访问权限的错误。我如何通过这个?以下是该函数的代码:
const request = require('request');
function firstShoe() {
request('https://www.jdsports.co.uk/product/green-nike-vapormax/281735/', function (error, response, body) {
console.log('body:', body);
});
}
错误:
</BODY>
</HTML>
body: <HTML><HEAD>
<TITLE>Access Denied</TITLE>
</HEAD><BODY>
<H1>Access Denied</H1>
You don't have permission to access "http://www.jdsports.co.uk/product/green-nike-vapormax/281735/" on this server.<P>
Reference #18.609d3e17.1500116386.15f0cb85
</BODY>
</HTML>
通过将用户代理传递到标题中找到解决方案。
function firstShoe() {
var options = {
headers: {'user-agent': 'node.js'}
}
request('https://www.jdsports.co.uk/product/green-nike-vapormax/281735/', options, function (error, response, body) {
console.log(body);
message.channel.send(body);
});
}
答案 0 :(得分:4)
您收到403 Forbidden
,因为该网站阻止了使用非常见用户代理发送的所有请求(基本上他们会检查User-Agent
标头)。这是一个非常简单的保护措施,以避免刮刀。
例如,如果您使用其标准用户代理发送以下cURL,则会完美地收到响应:
curl -v 'https://www.jdsports.co.uk/product/green-nike-vapormax/281735/'
尽管如此,如果您重复指定不存在的User-Agent的请求,则会阻止请求:
curl -v 'https://www.jdsports.co.uk/product/green-nike-vapormax/281735/' -H 'User-Agent: StackOverflow'