Question

我有两个脚本，scraper.py和db_control.py。在scraper.py我有这样的事情：

...
def scrap(category, field, pages, search, use_proxy, proxy_file):
    ...
    loop = asyncio.get_event_loop()

    to_do = [ get_pages(url, params, conngen) for url in urls ]
    wait_coro = asyncio.wait(to_do)
    res, _ = loop.run_until_complete(wait_coro)
    ...
    loop.close()

    return [ x.result() for x in res ]

...

在db_control.py中：

from scraper import scrap
...
while new < 15:
    data = scrap(category, field, pages, search, use_proxy, proxy_file)
    ...
...

理论上，刮板应该在未知时间启动，直到获得足够的数据。但是当new不是imidiatelly > 15时，会发生此错误：

  File "/usr/lib/python3.4/asyncio/base_events.py", line 293, in run_until_complete
self._check_closed()
  File "/usr/lib/python3.4/asyncio/base_events.py", line 265, in _check_closed
raise RuntimeError('Event loop is closed')
RuntimeError: Event loop is closed

但是如果我只运行一次scrap（），脚本就可以了。所以我想重新创建loop = asyncio.get_event_loop()时遇到了一些问题，我尝试了this，但没有任何改变。我怎么解决这个问题？当然，这些只是我的代码的片段，如果您认为问题可能在其他地方，则可以使用完整代码here。

Answer 1

方法run_until_complete，run_forever，run_in_executor，create_task，call_at明确检查如果它已关闭，则循环并抛出异常。

来自文档的引文 - BaseEvenLoop.close：

这是幂等的，不可逆转的

除非你有一些（好的）理由，否则你可能只是省略了关闭线：

def scrap(category, field, pages, search, use_proxy, proxy_file):
    #...
    loop = asyncio.get_event_loop()

    to_do = [ get_pages(url, params, conngen) for url in urls ]
    wait_coro = asyncio.wait(to_do)
    res, _ = loop.run_until_complete(wait_coro)
    #...
    # loop.close()
    return [ x.result() for x in res ]

如果您希望每次都有一个全新的循环，您不必手动创建它并设置为默认值：

def scrap(category, field, pages, search, use_proxy, proxy_file):
    #...
    loop = asyncio.new_event_loop()
    asyncio.set_event_loop(loop)    
    to_do = [ get_pages(url, params, conngen) for url in urls ]
    wait_coro = asyncio.wait(to_do)
    res, _ = loop.run_until_complete(wait_coro)
    #...
    return [ x.result() for x in res ]

Aiohttp，Asyncio：RuntimeError：事件循环已关闭

1 个答案: