使用Django和uwsgi服务pytorch模型,系统如何支持多请求并发?

时间:2019-10-09 03:35:30

标签: django pytorch uwsgi

如果我使用10个并发请求对API进行街头测试:

  • 使用django内置服务器python3 manage.py runserver,平均响应时间大约是1个并发请求的10倍
  • 使用uwsgi启动10个进度,平均响应时间大约是1个并发请求的5倍

如何在即时响应时间内处理多个请求?

0 个答案:

没有答案