标签: javascript node.js npm puppeteer task-queue
我正在使用Puppeteer开发Node.js抓取API,每天要抓取1000个以上的链接,我希望它能够自动执行此操作。
我正在寻找任务队列器,等待继续执行下一个抓取功能之前执行链接抓取功能。
我找到了使用Redis的bull.js。我正在将MongoDB用于数据库,并且我不想运行另一个DB。所以公牛不适合我。
有什么建议吗?如果您能帮助我,我将非常感谢。