如何配置scrapy和frontera,以在python3中记录抓取

时间:2019-02-08 06:53:43

标签: python-3.x scrapy frontera

我已经阅读了scrapy和frontera文档。我有50个用于不同网站的蜘蛛,使用“ scrapy runtimepider python_file.py”运行。 现在,我想控制或监视所有蜘蛛,并记录爬网,并避免重新爬网我已经爬过的现有URL。 还有其他方法可以完成此任务。

创建了一个新项目并尝试记录抓取,并显示错误,例如未导入图形

0 个答案:

没有答案