我使用节点js的网络服务器并使用socket.on(' data')函数来接收数据。要解析TCP消息,我使用解析缓冲区方法。这使用前4个字节作为TCP消息的长度,以便我可以从TCP流中读取并形成单独的命令。总之,在高负载下发生的事情是,作为TCP流的一部分返回的一些垃圾数据导致问题。
function onConnect(client) {
var accumulatingBuffer = new Buffer(0);
var totalPacketLen = -1;
var accumulatingLen = 0;
var recvedThisTimeLen = 0;
client.on('data', function (data) {
parseBuffer(client, data, accumulatingBuffer, totalPacketLen, accumulatingLen, recvedThisTimeLen);
});
}
这是parsebuffer方法。
function parseBuffer(client, data, accumulatingBuffer, totalPacketLen, accumulatingLen, recvedThisTimeLen) {
recvedThisTimeLen = Buffer.byteLength(data);
var tmpBuffer = new Buffer(accumulatingLen + recvedThisTimeLen);
accumulatingBuffer.copy(tmpBuffer);
data.copy(tmpBuffer, accumulatingLen); // offset for accumulating
accumulatingBuffer = tmpBuffer;
tmpBuffer = null;
accumulatingLen = accumulatingLen + recvedThisTimeLen;
if (accumulatingLen < PACKETHEADERLEN) {
return;
} else if (accumulatingLen === PACKETHEADERLEN) {
packetHeaderLen
return;
} else {
//a packet info is available..
if (totalPacketLen < 0) {
totalPacketLen = accumulatingBuffer.readUInt32BE(0);
}
}
while (accumulatingLen >= totalPacketLen + PACKETHEADERLEN) {
var aPacketBufExceptHeader = new Buffer(totalPacketLen); // a whole packet is available...
accumulatingBuffer.copy(aPacketBufExceptHeader, 0, PACKETHEADERLEN, PACKETHEADERLEN + totalPacketLen);
////////////////////////////////////////////////////////////////////
//process packet data
var stringData = aPacketBufExceptHeader.toString();
try {
var JSONObject = JSON.parse(stringData);
handler(client, JSONObject);
var newBufRebuild = new Buffer(accumulatingBuffer.length - (totalPacketLen + PACKETHEADERLEN)); // we can reduce size of allocatin
accumulatingBuffer.copy(newBufRebuild, 0, totalPacketLen + PACKETHEADERLEN, accumulatingBuffer.length);
//init
accumulatingLen = accumulatingLen - (totalPacketLen + PACKETHEADERLEN); //totalPacketLen+4
accumulatingBuffer = newBufRebuild;
newBufRebuild = null;
totalPacketLen = -1;
//For a case in which multiple packets are transmitted at once.
if (accumulatingLen <= PACKETHEADERLEN) {
//need to get more data -> wait..
return;
} else {
totalPacketLen = accumulatingBuffer.readUInt32BE(0);
}
} catch (ex) {
console.log(ex + ' unable to process data');
return;
}
}
}
一直很好,直到使用一堆客户端快速发送消息的模拟负载很高。在ParseBuffer方法内的那个时间点,第一行&#34; data.length&#34;返回的数据超过TCP数据的长度。这会导致代码读取垃圾为UInt32BE,这会导致totalpacketlength中的值非常高(告诉下一个数据包长度)。这会导致丢失消息。我错过了什么。请帮忙。
答案 0 :(得分:2)
在parseBuffer()
功能中执行此操作时:
accumulatingBuffer = tmpBuffer;
这只是将tmpBuffer
分配给名为accumulatingBuffer
的函数参数。它不会更改accumulatingBuffer
方法中的onConnect()
变量。因此,当您获得部分缓冲区时,会丢失累积的部分。您传递给parseBuffer()
的其他参数也是如此。在parseBuffer()
中分配给他们并不会更改onConnect()
中同名变量。
可能有更简单的方法来编写它,但保持相同结构的最简单方法是不传递单个变量,而是传递一个具有这些变量作为对象属性的对象。然后,当您分配属性时,您可以从onConnect()
中获取这些新值。
一般结构如下:
function onConnect(client) {
var args = {};
args.accumulatingBuffer = new Buffer(0);
args.totalPacketLen = -1;
args.accumulatingLen = 0;
args.recvedThisTimeLen = 0;
client.on('data', function (data) {
parseBuffer(client, data, args);
});
}
然后,在parseBuffer()
中进行相应的更改,以便在args
对象上作为属性访问参数。由于对象是通过指针传递的,因此当您从parseBuffer中指定args对象上的属性时,args
方法中的onConnect
对象中将显示这些属性。
仅供参考,我没有在函数的其他地方遵循整个逻辑,因此也可能存在其他错误。对于它正在尝试执行的相当常见的任务,这段代码看起来非常复杂,有很多缓冲区副本。它也可能是之前编写过很多次的代码,甚至可能存在于一些预先构建的库中。