我正在尝试使用pyppeteer使用无头的chrome发出请求。但是经过一定数量的请求后,我仍然收到“ OSError:[Errno 24]打开的文件太多”。我用losf检查了python进程的开放资源,发现每个新请求都有新行,如下所示:
python3 14840 root 11r FIFO 0,8 0t0 64208510 pipe
有人可以告诉我哪些资源没有关闭吗?产生此错误的代码如下
def search(self, search_path):
async def main(url):
browser = await launch(args=['--no-sandbox'], handleSIGINT=False, handleSIGTERM=False, handleSIGHUP=False)
page = await browser.newPage()
await page.setJavaScriptEnabled(False)
try:
response = await page.goto(url, options={"timeout": 50000})
except pyppeteer.errors.TimeoutError:
pass
src = await page.content()
await browser.close()
return src
loop = asyncio.new_event_loop()
asyncio.set_event_loop(loop)
url = "https://www.example.com" + search_path
val = asyncio.get_event_loop().run_until_complete(main(url))
loop.close()
编辑
我设法通过调用来关闭打开的管道
browser.process.communicate()