Tensorflow Serving崩溃并发多个请求

Question

Tensorflow Serving同时崩溃，同时出现多个请求，错误消息为：

*** Error in `tensorflow_model_server': double free or corruption (!prev): 0x00007ff474c18cc0 ***

我尝试了批处理，但没有成功。

我尝试过：

sudo apt-get install libtcmalloc-minimal4
export LD_PRELOAD="/usr/lib/libtcmalloc_minimal.so.4"

在遇到相同问题时遇到了其他错误。

*** Error in `tensorflow_model_server': corrupted size vs. prev_size: 0x00007f2ee8fa7920 ***

有没有不使用kubernetes的简单方法来解决这个问题？

Answer 1

不幸的是，这里没有足够的信息来调试问题。如果您的模型有问题，那么无论您如何使用它，最终都可能会遇到此问题。