如果身体太大,Nginx / Uwsgi / Flask POST将超时

时间:2018-12-21 17:54:44

标签: python nginx flask uwsgi

我正在使用基于https://github.com/tiangolo/uwsgi-nginx-flask-docker/tree/master/python3.6的dockerimage。我正在内部运行一个python应用程序,该应用程序接受POST,在json主体上进行一些处理,然后返回一个简单的json响应。这样的帖子:

curl -H "Content-Type: application/json" -X POST http://10.4.5.168:5002/test -d '{"test": "test"}'

工作正常。但是,如果我发布了较大的json文件,则会收到504:网关超时。

curl -H "Content-Type: application/json" -X POST http://10.4.5.168:5002/test -d @some_6mb_file.json

我感觉Nginx和Uwsgi之间的通信存在问题,但是我不确定如何解决。

编辑:我跳入docker容器并手动重启nginx以获得更好的日志记录。我收到以下错误:

  

2018/12/21 20:47:45 [错误] 611#611:* 1上游超时(110:   连接超时),同时从上游读取响应标头,   客户端:10.4.3.168,服务器:,请求:“ POST   / model / refuel_verification_model / predict HTTP / 1.1“,上游:   “ uwsgi:// unix:///tmp/uwsgi.sock”,主持人:“ 10.4.3.168:5002”

从容器内部,启动了Flask应用程序的第二个实例,该实例在没有Nginx和Uwsgi的情况下运行,并且运行良好。响应大约需要5秒钟才能返回(由于数据处理时间长)。

配置:

/etc/nginx/nginx.conf:

user  nginx;
worker_processes 1;

error_log  /var/log/nginx/error.log warn;
pid        /var/run/nginx.pid;


events {
    worker_connections  1024;
}


http {
    include       /etc/nginx/mime.types;
    default_type  application/octet-stream;

    log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
                      '$status $body_bytes_sent "$http_referer" '
                      '"$http_user_agent" "$http_x_forwarded_for"';

    access_log  /var/log/nginx/access.log  main;

    sendfile        on;
    #tcp_nopush     on;

    keepalive_timeout  65;

    #gzip  on;

    include /etc/nginx/conf.d/*.conf;
}
daemon off;

/etc/nginx/conf.d/nginx.conf:

server {
    listen 80;
    location / {
        try_files $uri @app;
    }
    location @app {
        include uwsgi_params;
        uwsgi_pass unix:///tmp/uwsgi.sock;
    }
    location /static {
        alias /app/static;
    }
}

/etc/nginx/conf.d/upload.conf:

client_max_body_size 128m;
client_body_buffer_size 128m;

2 个答案:

答案 0 :(得分:1)

我在代理到 aiohttp (Python) 应用程序时遇到了这种行为。

就我而言,在代理的位置块中,我需要禁用缓存:

从块中移除:

proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection 'upgrade';
proxy_set_header Host $host;
proxy_cache_bypass $http_upgrade;

结果,工作配置是这样的:

  server {
    listen 80;
    location / {
        try_files $uri @app;
    }
    location @app {
      proxy_set_header Host $http_host;
      proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
      proxy_redirect off;
      proxy_buffering off;
      proxy_pass http://myapp;
    }
    location /static {
        alias /app/static;
    }
}

答案 1 :(得分:0)

Tensorflow存在问题。我在应用程序初始化期间加载了一个tensorflow模型,然后尝试稍后使用它。由于Web服务器完成了线程处理,并且Tensorflow具有“非线程安全”的特性,因此处理暂停导致超时。