在Flask中异步传输大文件

时间:2017-01-14 23:33:45

标签: asynchronous flask python-3.5 python-asyncio aiohttp

在Flask中异步传输大文件的最佳方法是什么?我看过这个article。但我想知道如果没有使用芹菜,是否有办法做到这一点?

1 个答案:

答案 0 :(得分:2)

Flask是一个同步框架,您可以尝试使用flask + gevent和流式响应,如下所述:http://flask.pocoo.org/docs/0.12/patterns/streaming/

无论如何,如果你想要正确上传非常大的文件,我建议你使用不同的方法。尝试使用Nginx upload_module委托传输,而不是尝试使用同步框架进行异步网络,如下所述:http://blog.thisisfeifan.com/2013/03/nginx-upload-module-vs-flask.html

Nginx速度更快,不会加载内存中的文件,即使在异步模式下,常规框架(如Flask或Django)也可以。请记住在使用指令upload_pass上传POST后配置flask以接收。唯一需要注意的是,您必须学习如何从源代码编译完整的Nginx,这里是一个工作Dockerfile的例子:

FROM buildpack-deps:jessie

##### NGINX #####
# Base Stuff
RUN apt-get update && apt-get install -y -qq \
    libssl-dev

# Nginx with upload_module and upload_progress_module
# "Stable version".
ENV ZLIB_VERSION 1.2.11
ENV PCRE_VERSION 8.39
ENV NGX_UPLOAD_MODULE_VERSION 2.2
ENV NGX_UPLOAD_PROGRESS_VERSION 0.9.1
ENV NGX_HEADERS_MORE_VERSION 0.32
ENV NGX_SPPEDPAGE_VERSION 1.11.33.4
ENV NGINX_VERSION 1.11.8

RUN cd /tmp \
    && wget http://nginx.org/download/nginx-${NGINX_VERSION}.tar.gz \
    && tar xvf nginx-${NGINX_VERSION}.tar.gz \
    && wget https://github.com/openresty/headers-more-nginx-module/archive/v${NGX_HEADERS_MORE_VERSION}.tar.gz \
    && tar -xzvf v${NGX_HEADERS_MORE_VERSION}.tar.gz \
    && wget https://github.com/pagespeed/ngx_pagespeed/archive/latest-stable.tar.gz \
    && tar -xzvf latest-stable.tar.gz \
    && wget https://dl.google.com/dl/page-speed/psol/${NGX_SPPEDPAGE_VERSION}.tar.gz \
    && tar -xzvf ${NGX_SPPEDPAGE_VERSION}.tar.gz \
    && mv psol ngx_pagespeed-latest-stable/ \
    && git clone -b ${NGX_UPLOAD_MODULE_VERSION} https://github.com/Austinb/nginx-upload-module \
    && wget http://zlib.net/zlib-${ZLIB_VERSION}.tar.gz \
    && tar xvf zlib-${ZLIB_VERSION}.tar.gz \
    && wget ftp://ftp.csx.cam.ac.uk/pub/software/programming/pcre/pcre-${PCRE_VERSION}.tar.bz2 \
    && tar -xjf pcre-${PCRE_VERSION}.tar.bz2 \
    && wget https://github.com/masterzen/nginx-upload-progress-module/archive/v${NGX_UPLOAD_PROGRESS_VERSION}.tar.gz \
    && tar xvf v${NGX_UPLOAD_PROGRESS_VERSION}.tar.gz \
    && cd nginx-${NGINX_VERSION} \
    && ./configure \
    --with-pcre=../pcre-${PCRE_VERSION}/ \
    --with-zlib=../zlib-${ZLIB_VERSION}/ \
    --add-module=../nginx-upload-module \
    --add-module=../nginx-upload-progress-module-${NGX_UPLOAD_PROGRESS_VERSION} \
    --add-module=../ngx_pagespeed-latest-stable \
    --add-module=../headers-more-nginx-module-${NGX_HEADERS_MORE_VERSION} \
    --with-select_module \
    --with-poll_module \
    --with-file-aio \
    --with-http_ssl_module \
    --with-ipv6 \
    --with-pcre-jit \
    --with-http_gzip_static_module \
    --with-http_ssl_module \
    --with-http_v2_module \
    --with-http_realip_module \
    --user=nginx --group=nginx --sbin-path=/usr/sbin/nginx --conf-path=/etc/nginx/nginx.conf --error-log-path=/var/log/nginx/error.log --http-log-path=/var/log/nginx/access.log --pid-path=/var/run/nginx.pid --with-cpu-opt=CPU --    with-ld-opt="-Wl,-E" \
    && make \
   && make install

EXPOSE 80 443

CMD ["nginx", "-g", "daemon off;"] 

注意:请在此图片中缺少nginx.conf和default.conf的配置。