我有一个Python + Selenium脚本可以帮助我抓取信息。但是,网页不时会遇到错误,然后我需要刷新页面并再次刮擦。问题是错误是不稳定的,当我点击某些按钮或填写某些表格时,它可能会导致我的刮刀崩溃。
我需要找到一个优雅的方法来刷新页面,点击相同的按钮(我的意思是,完全相同的状态)。有什么帮助吗?
答案 0 :(得分:0)
如果您构建一个强大的scrapy系统,您必须考虑异常处理。我已经做了一些大型的scrape项目。在这些项目中,我们将使用日志系统来记录异常,然后在没有成功抓取消息时重试。