处理Flask / Gunicorn Web服务的1000个并发请求

Question

我很擅长用Python创建Web服务。我已经成功创建了一个Flask Web服务并使用Gunicorn运行它（因为Flask的内置服务器不适合生产）。 这就是我运行应用程序的方式（有4个工作节点）。

   gunicorn --bind 0.0.0.0:5000 My_Web_Service:app -w 4

问题是，这一次只能处理4个请求。我希望它能够同时处理可能的1000个请求。我应该使用多线程吗？还有其他选择/建议吗？

Answer 1

阅读Workers部分，如果你的工作是IO绑定的话，你必须切换到异步工作者，它可以处理数千个连接。建议不要使用比CPU更多的进程。