节点js TCP服务器,socket.on('数据') - 数据缓冲区包含高负载的垃圾数据

时间:2015-06-26 17:31:57

标签: node.js tcp load buffer garbage

我使用节点js的网络服务器并使用socket.on(' data')函数来接收数据。要解析TCP消息,我使用解析缓冲区方法。这使用前4个字节作为TCP消息的长度,以便我可以从TCP流中读取并形成单独的命令。总之,在高负载下发生的事情是,作为TCP流的一部分返回的一些垃圾数据导致问题。

function onConnect(client) {
var accumulatingBuffer = new Buffer(0);
var totalPacketLen = -1;
var accumulatingLen = 0;
var recvedThisTimeLen = 0;

client.on('data', function (data) {
    parseBuffer(client, data, accumulatingBuffer, totalPacketLen, accumulatingLen, recvedThisTimeLen);
});
}

这是parsebuffer方法。

function parseBuffer(client, data, accumulatingBuffer, totalPacketLen, accumulatingLen, recvedThisTimeLen) {
recvedThisTimeLen = Buffer.byteLength(data);
var tmpBuffer = new Buffer(accumulatingLen + recvedThisTimeLen);
accumulatingBuffer.copy(tmpBuffer);
data.copy(tmpBuffer, accumulatingLen); // offset for accumulating
accumulatingBuffer = tmpBuffer;
tmpBuffer = null;
accumulatingLen = accumulatingLen + recvedThisTimeLen;

if (accumulatingLen < PACKETHEADERLEN) { 
    return;
} else if (accumulatingLen === PACKETHEADERLEN) { 
    packetHeaderLen
    return;
} else {
    //a packet info is available..
    if (totalPacketLen < 0) {
        totalPacketLen = accumulatingBuffer.readUInt32BE(0);
    }
}
while (accumulatingLen >= totalPacketLen + PACKETHEADERLEN) {
    var aPacketBufExceptHeader = new Buffer(totalPacketLen); // a whole packet is available...
    accumulatingBuffer.copy(aPacketBufExceptHeader, 0, PACKETHEADERLEN, PACKETHEADERLEN + totalPacketLen);

    ////////////////////////////////////////////////////////////////////
    //process packet data
    var stringData = aPacketBufExceptHeader.toString();
    try {
        var JSONObject = JSON.parse(stringData);
        handler(client, JSONObject);


        var newBufRebuild = new Buffer(accumulatingBuffer.length - (totalPacketLen + PACKETHEADERLEN)); // we can reduce size of allocatin
        accumulatingBuffer.copy(newBufRebuild, 0, totalPacketLen + PACKETHEADERLEN, accumulatingBuffer.length);

        //init      
        accumulatingLen = accumulatingLen - (totalPacketLen + PACKETHEADERLEN); //totalPacketLen+4
        accumulatingBuffer = newBufRebuild;
        newBufRebuild = null;
        totalPacketLen = -1;

        //For a case in which multiple packets are transmitted at once.
        if (accumulatingLen <= PACKETHEADERLEN) {
            //need to get more data -> wait..
            return;
        } else {
            totalPacketLen = accumulatingBuffer.readUInt32BE(0);
        }
    } catch (ex) {
        console.log(ex + ' unable to process data');
        return;
    }
}
}

一直很好,直到使用一堆客户端快速发送消息的模拟负载很高。在ParseBuffer方法内的那个时间点,第一行&#34; data.length&#34;返回的数据超过TCP数据的长度。这会导致代码读取垃圾为UInt32BE,这会导致totalpacketlength中的值非常高(告诉下一个数据包长度)。这会导致丢失消息。我错过了什么。请帮忙。

1 个答案:

答案 0 :(得分:2)

parseBuffer()功能中执行此操作时:

accumulatingBuffer = tmpBuffer;

这只是将tmpBuffer分配给名为accumulatingBuffer的函数参数。它不会更改accumulatingBuffer方法中的onConnect()变量。因此,当您获得部分缓冲区时,会丢失累积的部分。您传递给parseBuffer()的其他参数也是如此。在parseBuffer()中分配给他们并不会更改onConnect()中同名变量。

可能有更简单的方法来编写它,但保持相同结构的最简单方法是不传递单个变量,而是传递一个具有这些变量作为对象属性的对象。然后,当您分配属性时,您可以从onConnect()中获取这些新值。

一般结构如下:

function onConnect(client) {
    var args = {};
    args.accumulatingBuffer = new Buffer(0);
    args.totalPacketLen = -1;
    args.accumulatingLen = 0;
    args.recvedThisTimeLen = 0;

    client.on('data', function (data) {
        parseBuffer(client, data, args);
    });
}

然后,在parseBuffer()中进行相应的更改,以便在args对象上作为属性访问参数。由于对象是通过指针传递的,因此当您从parseBuffer中指定args对象上的属性时,args方法中的onConnect对象中将显示这些属性。

仅供参考,我没有在函数的其他地方遵循整个逻辑,因此也可能存在其他错误。对于它正在尝试执行的相当常见的任务,这段代码看起来非常复杂,有很多缓冲区副本。它也可能是之前编写过很多次的代码,甚至可能存在于一些预先构建的库中。