我需要读取一个配置文件,从中加载蜘蛛所需的非scrapy相关配置属性,并使用我所有蜘蛛的配置。
最简单的解决方案是使用settings.py文件,但我认为这不是此文件的目的,我想将scrapy模块配置与配置文件分开。
我有一个类已经从配置文件中读取并加载了我的配置,但是我不想从每个蜘蛛导入这个模块,因为我希望配置只加载一次并在蜘蛛之间共享。
实施此方法最干净的方法是什么?我应该以某种方式覆盖SpiderLoader类吗?
答案 0 :(得分:2)
Scrapy中添加非生产设置的最常用方法是添加local_settings.py
文件,然后将其添加到settings.py
文件中:
try:
from local_settings import *
except ImportError:
pass