Gunicorn with gevent:按要求维护全球数据

时间:2015-09-11 14:18:17

标签: python asynchronous gunicorn gevent

我有一个使用异步工作类(即gevent)的Gunicorn服务器提供的python应用程序(基于MVC模式构建)。这意味着工作进程同时提供多个客户端请求。 每个http请求都包含一些特定于该请求的数据,例如' user_id'。说模型中发生错误,我想记录 user_id出错。我不想继续将user_id(以及一些特定于请求的值)传递给每个类或方法。我希望这些值对于为此特定请求执行的任何代码都是全局可用的。接收请求的控制器设置这些值,然后为此请求执行的任何代码都可以访问这些值。为多个同时请求执行的代码应该可以访问它们各自的数据值。有可能吗?

1 个答案:

答案 0 :(得分:3)

一般的想法是将每个请求数据与每个请求唯一的内容相关联。例如,有一个dict,这个唯一标识符作为键,每个请求数据作为值。

由于您说您正在使用gevent worker,我们可以使用greenlet.getcurrent()作为唯一标识符。

这几乎是 Flask + Werkzeug所做的事情,但他们以比我下面的例子更高效,内存效率,线程兼容和最终用户友好的方式这样做。

这是一个简单的wsgi应用程序作为示例。此处a是通过“全局可用”函数get_per_greenlet_dict在每个请求dict上设置和获取的。而b作为参数传递,以作为a正确的验证。

# wsgi.py
import collections, logging, time, greenlet

logging.basicConfig()
log = logging.getLogger(__name__)
log.level = logging.DEBUG

# used to store per-request data
# keys are greenlets, values are dicts
storage = collections.defaultdict(dict)

# return a dict for this request
# TODO: remove the per-request dict at the end of the request
def get_per_greenlet_dict():
    return storage[greenlet.getcurrent()]

def application(env, start_response):

    # extract query vars
    query_vars = env['QUERY_STRING'].split("&")
    a = query_vars[0].split("=")[1]
    b = query_vars[1].split("=")[1]

    # store 'a' in our per-request dict
    get_per_greenlet_dict()['a'] = a

    log_a_and_b("Before sleep", b)
    time.sleep(1)
    log_a_and_b("After sleep", b)

    start_response('200 OK', [('Content-Type', 'text/html')])
    return [b"OK: "]


def log_a_and_b(prefix, b):
    # log both a and b,
    # where a is sourced from our per-request dict
    # and b is passed as a parameter as a means of verifying a
    a = get_per_greenlet_dict()['a']
    log.debug(prefix + "; a:%s b:%s", a, b)

使用gevent worker运行gunicorn服务器:

$ gunicorn -k gevent wsgi

运行多个同时请求,例如:

$ for i in `seq 1 5`; do curl "127.0.0.1:8000?a=$i&b=$i" & done

然后你会看到gunicorn的输出,如:

DEBUG:wsgi:Before sleep; a:2 b:2
DEBUG:wsgi:Before sleep; a:5 b:5
DEBUG:wsgi:Before sleep; a:4 b:4
DEBUG:wsgi:Before sleep; a:1 b:1
DEBUG:wsgi:Before sleep; a:3 b:3
DEBUG:wsgi:After sleep; a:2 b:2
DEBUG:wsgi:After sleep; a:5 b:5
DEBUG:wsgi:After sleep; a:4 b:4
DEBUG:wsgi:After sleep; a:1 b:1
DEBUG:wsgi:After sleep; a:3 b:3