如何使用Python自动化Web抓取脚本?

时间:2017-03-27 12:16:03

标签: python csv web-scraping automation beautifulsoup

我完成了这个网页抓取教程: https://www.youtube.com/watch?v=XQgXKtPSzUI

(tl; dw:一位老师讲授如何使用Python和Beautiful Soup刮取在线商店以在csv中创建数据库)。

我的问题是,由于在线商店不断更新其内容,如何设置脚本每次运行,例如10分钟才能更新我的数据库?

1 个答案:

答案 0 :(得分:1)

您可以制作另一个脚本,每10分钟执行一次更新脚本:

import os
import time

while True: 
  os.system("my_script.py")
  time.sleep(10*60)

或者你可以在linux上使用CRON每10分钟执行一次脚本