您好我一直在使用Scrapy& Scrapyd现在和最近一段时间我遇到了一个非常奇怪的问题。我所有的蜘蛛都会在不明的时间(天)内工作,然后就停止了工作。当我检查日志时,它说所有蜘蛛上的连接拒绝111,我只需重新启动我的Ubuntu实例,然后所有蜘蛛都会再次工作(在x天之后再次失败)。
任何帮助人员?
答案 0 :(得分:1)
你在使用scrapy-splash吗?我注意到一段时间后飞溅会崩溃(由于一些内存问题)。
如果您使用带有泊坞窗的启动画面,则可以运行
{{1}}
查看启动失败的原因以及原因(错误137显然是内存问题)。