标签: python web-scraping scrapy
我正在使用scrapy(python)构建一堆爬虫,并且我希望将此数据收集到一个Web应用程序中(日历,例如:https://lectures.london/)。这是存储数据的最佳方式是什么?
scrapy
答案 0 :(得分:0)
将爬网的网站解析为字典(检出BeautifulSoup parser)。 现在将字典转储到json字符串中,并将json字符串存储在json数据库中(例如MongoDB或Postgres)。