node.js - JSONStream期间的无限循环

时间:2015-10-01 02:16:53

标签: node.js stream infinite-loop jsonstream

我有一个在生产中冻结的node.js服务器,它似乎是由JSONStream内部的无限循环引起的。这是从冻结服务器的核心转储中捕获的​​堆栈跟踪:

1: toString [buffer.js:~392] (this=0x1e28fb6d25c9 <a Buffer>#1#,encoding=0x266ee104121 <undefined>,start=0x266ee104121 <undefined>,end=0x266ee104121 <undefined>)
2: arguments adaptor frame: 0->3
3: write [/home/deploy/node_modules/JSONStream/node_modules/jsonparse/jsonparse.js:136] (this=0x32cc8dd5a999 <a Parser>#2#,buffer=0x32cc8dd5aa49 <a Buffer>#3#)
4: /* anonymous */ [/home/deploy/node_modules/JSONStream/index.js:~17] (this=0x32cc8dd5ab11 <a Stream>#4#,chunk=0x32cc8dd5aa49 <a Buffer>#3#)
5: write [/home/deploy/node_modules/JSONStream/node_modules/through/index.js:~24] (this=0x32cc8dd5ab11 <a Stream>#4#,data=0x32cc8dd5aa49 <a Buffer>#3#)
6: write [_stream_readable.js:~582] (this=0x266ee106c91 <JS Global Object>#5#,dest=0x32cc8dd5ab11 <a Stream>#4#,i=0,list=0x266ee104101 <null>)
7: flow [_stream_readable.js:592] (this=0x266ee106c91 <JS Global Object>#5#,src=0x32cc8dd5ac69 <an IncomingMessage>#6#)
8: /* anonymous */ [_stream_readable.js:560] (this=0x266ee106c91 <JS Global Object>#5#)
9: _tickCallback [node.js:415] (this=0x29e7331bb2a1 <a process>#7#)

如何找到此无限循环的来源?

不幸的是,服务器正在生产中运行,并且正在处理数千个请求,因此很难提供任何其他上下文。服务器的基本功能是为其他服务发出出站HTTP请求。

值得注意的是,我不相信这是由内存泄漏引起的。在这些冻结事件期间,服务器的内存使用量保持不变(和低),而CPU峰值达到99%

结束无限循环的另一个证据是事件循环本身似乎已停止。当我将一个console.log放在setInterval中时,服务器会在冻结时立即停止输出。

我们已经验证问题不是由套接字连接过期/损坏引起的,方法是将最大连接数设置为Infinity(禁止在node.js中重用它们)

我们正在使用JSONStream 0.7.1(其中包含默认的jsonparse版本0.0.5)。我们在JSONStream repo上找到this issue,并尝试分叉JSONParse并且只更新到最新的jsonparse版本。它没有解决问题。

1 个答案:

答案 0 :(得分:2)

您的问题似乎是由jsonstream@0.0.5 toString()造成的。虽然我无法在不转储服务器的情况下为您解决问题,但这似乎表明您的缓冲区非常大。

这也可以解释为什么你的服务器锁定(正如你在聊天中所提到的),为什么事件循环不会继续,以及为什么你的记忆不会上升到天空但你的CPU会这样做;这里可能发生的事情是你尝试n <= 128难以置信的大量字节,你的硬件根本无法做到并且它会死掉。

一定要报告此导致的任何进一步调查。我觉得你不可避免地要在开发盒上重新调试这个问题。它可以简单到为缓冲区添加一些健全性检查并确保它不超过一定的大小。

上面的代码部分仅在handles: "e, w"时才会被命中,所以如果您使用的是有符号字符(例如Unicode)或有符号字节,那么您可能会在正常函数中遇到此问题...可能需要考虑的事情!