如何使金枪鱼和烧瓶不消耗大量内存

Question

我使用烧瓶和gunicorn在生产规模的机器学习模型上进行部署，但是使用guncorn和4名工人的内存非常大（几乎是4倍），而没有gunicorn。 Gunicorn可以使用更少的内存吗？

Answer 1

将您的工作人员调整为（2 * CPU）+1 。这是使用工作程序和线程时建议的最大并发请求。