Scrapy连接被拒绝

时间:2017-05-18 03:06:40

标签: python scrapy scrapyd

您好我一直在使用Scrapy& Scrapyd现在和最近一段时间我遇到了一个非常奇怪的问题。我所有的蜘蛛都会在不明的时间(天)内工作,然后就停止了工作。当我检查日志时,它说所有蜘蛛上的连接拒绝111,我只需重新启动我的Ubuntu实例,然后所有蜘蛛都会再次工作(在x天之后再次失败)。

任何帮助人员?

1 个答案:

答案 0 :(得分:1)

你在使用scrapy-splash吗?我注意到一段时间后飞溅会崩溃(由于一些内存问题)。

如果您使用带有泊坞窗的启动画面,则可以运行

{{1}}

查看启动失败的原因以及原因(错误137显然是内存问题)。