我目前正在使用Node从API(Discogs API)获取数据,并在请求时遇到此错误:
{ [Error: Parse Error] bytesParsed: 0, code: 'HPE_INVALID_CONSTANT' }
使用此链接:http://api.discogs.com/releases/249504(但content-length != actual content length
)
这段代码:
var http = require('http');
var options = {
hostname: 'api.discogs.com',
port: 80,
path: '/releases/249504',
method: 'GET'
};
var req = http.request(options, function(res) {
console.log("statusCode: ", res.statusCode);
console.log("headers: ", res.headers);
res.on('data', function(d) {
console.log(d);
});
});
req.end();
req.on('error', function(e) {
console.error(e);
});
我发现Content-length值总是小于实际响应字节长度。
Content-length : 2142
Actual Byte Length : 7,734 Bytes (according to https://mothereff.in/byte-counter)
我已经读过Node的Parser非常严格,这就是为什么它无法解析响应。
最后,我问你是否有办法在Node解析响应之前忽略/修改/删除一个Header,所以解析器可以通过忽略Content-Length来完成他的工作?
答案 0 :(得分:2)
这与(感知,见下文)无效的内容长度无关,因为它也无法使用cURL:
$ curl http://api.discogs.com/releases/249504
curl: (52) Empty reply from server
显然,API服务器要求设置用户代理标头:
var options = {
hostname : 'api.discogs.com',
port : 80,
path : '/releases/249504',
method : 'GET',
headers : { 'user-agent' : 'foo/1.0' }
};
对于内容长度的差异:2142是gzip压缩响应(content-encoding: gzip
)的大小,7734是未压缩响应的大小。显然,您的字节计数器测试仅请求未压缩的响应,但您检查了标头的客户端请求压缩响应。
答案 1 :(得分:0)
回到在 Node 中解析响应之前更改标头的主题,您可以通过在 socket: "data"
事件上用您自己的函数替换标准处理程序来轻松完成。 >
https://github.com/nodejs/http2/blob/master/lib/_http_client.js#L655
var req = http.request(options, function(res) {
console.log("statusCode: ", res.statusCode);
console.log("headers: ", res.headers); // without "Pragma: public" header
res.on('data', function(d) {
console.log(d);
});
});
// catch socket object on conection initialization
req.on('socket', function (socket) {
// https://nodejs.org/api/events.html
var standardHandler = socket.listeners('data')[0];
socket.off('data', standardHandler);
socket.on('data', function(data) {
var str = data.toString();
console.log(str);
// HTTP/1.x 200 OK
// Date: Sat, 28 Nov 2009 04:36:25 GMT
// Connection: close
// Pragma: public
// Expires: Sat, 28 Nov 2009 05:36:25 GMT
// Cache-Control: max-age=3600, public
// Content-Type: text/html; charset=UTF-8
// Content-Length: 533424
// Content-Encoding: gzip
// Vary: Accept-Encoding, Cookie, User-Agent
//
// <!DOCTYPE html PUBLIC "-//W3C//DTD
// Do anything you need
// removing 4 line
var lines = str.split('\r\n');
lines.splice(3, 1)
str = lines.join('\r\n');
// Now pass new data onto standard request handler
standardHandler.call(socket, Buffer.from(str, "utf-8"));
})
});
req.end();