Question

我正在同一个应用程序中使用gevent和tornado，以便不支持龙卷风的ioloop的库可以被制服以使用gevent异步操作。我以为我需要运行两个真正的系统线程，一个专用于Tornado的ioloop，另一个专用于gevent的循环。但是，尝试在系统线程内调用任何gevent函数会返回not implemented Error，gevent cannot be used inside threads。因此，我也尝试了猴子修补线程，如下面的代码片段所示

from gevent import monkey; monkey.patch_all()
from random import choice
import gevent
import requests
import tornado.ioloop
import tornado.web
import threading
import Queue

q = Queue.Queue()

i = 0
def synchronous_get_url(url, callback=None):
    global i
    i += 1
    d = i

    print('bar %d getting %s' % (d, url))
    requests.get(url)
    print('bar %d finished getting %s' % (d, url))
    if callback:
        callback()

class GreenEventLoop(threading.Thread):
    daemon = True
    def run(self):
        while True:
            url, callback = q.get()
            gevent.spawn(synchronous_get_url, url, callback)

...继续

class MainHandler(tornado.web.RequestHandler):

    @tornado.web.asynchronous
    def get(self):
        print 'Received get request'
        urls = [
            'http://google.com',
            'http://apple.com',
            'http://microsoft.com',
            'http://github.com',
            'http://sourceforge.com',
        ]

        q.put((choice(urls), self._on_fetch), block=False)
        self.write("submitted url to queue")

    def _on_fetch(self):
        print 'Finishing in the handler\n'
        try:
            self.finish()
        except:
            pass

# Start GEvent Loop
green_loop = GreenEventLoop()
green_loop.start()

# Start Tornado Loop
application = tornado.web.Application([
    (r"/", MainHandler),
    ], debug=True)
application.listen(7001)
tornado.ioloop.IOLoop.instance().start()

在一个单独的进程中，在命令行上运行以下命令。

from gevent import monkey; monkey.patch_all()
import gevent
import requests
count = 0
def get_stuff(i):
    global count
    res = requests.get('http://localhost:7000/')
    count += 1
    print count, res, i

lets = [gevent.spawn(get_stuff, i) for i in range(15)]
gevent.joinall(lets)

这允许同时检索15个URL，并在收到响应时返回响应。我不太明白为什么上面的代码可以工作。如果线程由gevent修补并变成绿色线程，这意味着一次只运行一个线程，这意味着当gevent关闭获取新响应时，龙卷风的ioloop将阻止并且不处理新请求，直到旧请求为止回。有人可以解释一下gevent会如何与Tornado的ioloop互动吗？

Answer 1

我建议你看看motor lib它是pymongo驱动程序的异步包装器。它使用greenlets为龙卷风回调样式采用同步pymongo代码。所以我认为找到一些想法应该是个好地方。

Answer 2

基本的想法是使用gevent来修补系统线程，然后在python'threads'下运行龙卷风，它们实际上是gevent greenlets。

How to use gevent and tornado together

如何在单个应用程序中使用gevent和tornado？

2 个答案: