使用asyncio / pyppeteer时打开文件过多错误

时间:2019-01-29 23:38:16

标签: python chromium python-asyncio pyppeteer

我正在尝试使用pyppeteer使用无头的chrome发出请求。但是经过一定数量的请求后,我仍然收到“ OSError:[Errno 24]打开的文件太多”。我用losf检查了python进程的开放资源,发现每个新请求都有新行,如下所示:

python3 14840 root   11r  FIFO        0,8      0t0 64208510 pipe

有人可以告诉我哪些资源没有关闭吗?产生此错误的代码如下

def search(self, search_path):
    async def main(url):
        browser = await launch(args=['--no-sandbox'], handleSIGINT=False, handleSIGTERM=False, handleSIGHUP=False)
        page = await browser.newPage()
        await page.setJavaScriptEnabled(False)
        try:
            response = await page.goto(url, options={"timeout": 50000})
        except pyppeteer.errors.TimeoutError:
            pass

        src = await page.content()
        await browser.close()
        return src

    loop = asyncio.new_event_loop()
    asyncio.set_event_loop(loop)
    url = "https://www.example.com" + search_path
    val = asyncio.get_event_loop().run_until_complete(main(url))
    loop.close()

编辑

我设法通过调用来关闭打开的管道

browser.process.communicate() 

0 个答案:

没有答案