网页抓取项目+网页

时间:2021-03-05 16:54:54

标签: django web-scraping apscheduler project-structure

我正在构建一个带有网页的 django 项目,用户可以在其中搜索文档。我使用 webscraper 来检索文档并将它们存储在数据库中。刮擦应每两小时运行一次,大约需要 5 分钟。我使用了 apscheduler 并在我的 django 项目中创建了一个 scraping_app。但是在抓取时,我无法从网页上进行任何搜索调用。如何确保抓取不会停止网页?

由于我是 Web 开发的新手,我想知道最佳实践是什么。我应该让抓取完全独立于网页项目并且只共享相同的数据库吗?还是将两者集成到同一个项目中?

0 个答案:

没有答案