Node.js同步排队许多任务

时间:2020-01-25 01:38:53

标签: javascript node.js npm puppeteer task-queue

我正在使用Puppeteer开发Node.js抓取API,每天要抓取1000个以上的链接,我希望它能够自动执行此操作。

我正在寻找任务队列器,等待继续执行下一个抓取功能之前执行链接抓取功能。

我找到了使用Redis的bull.js。我正在将MongoDB用于数据库,并且我不想运行另一个DB。所以公牛不适合我。

有什么建议吗?如果您能帮助我,我将非常感谢。

0 个答案:

没有答案
相关问题