如何在蜘蛛之间分享共同参考?

时间:2016-11-27 14:27:37

标签: python web-scraping scrapy

我需要读取一个配置文件,从中加载蜘蛛所需的非scrapy相关配置属性,并使用我所有蜘蛛的配置。

最简单的解决方案是使用settings.py文件,但我认为这不是此文件的目的,我想将scrapy模块配置与配置文件分开。

我有一个类已经从配置文件中读取并加载了我的配置,但是我不想从每个蜘蛛导入这个模块,因为我希望配置只加载一次并在蜘蛛之间共享。

实施此方法最干净的方法是什么?我应该以某种方式覆盖SpiderLoader类吗?

1 个答案:

答案 0 :(得分:2)

Scrapy中添加非生产设置的最常用方法是添加local_settings.py文件,然后将其添加到settings.py文件中:

try:
    from local_settings import *
except ImportError:
    pass