我可以使用不同的scrapy下载器来实现不同的规则吗?

时间:2013-01-04 03:33:58

标签: python scrapy

这是我的情况: 我想抓取不同的页面使用不同的下载器: 因为我们可以使用不同的url-lib来加载不同的网页,例如的urllib2 / httplib的。所以我想在下载中间件文件中再创建两个下载函数。

def downloader1():
    use urllib2 to open url-type1

def downloader2():
    use scrapy default downloader to open url-type2

我只是考虑是否有像url解析规则的方式如下?对于不同的网址,我们可以回拨不同的downloader1或downloader2来下载页面。

另一个问题,我可以在同一个项目中为不同的蜘蛛使用不同的下载器吗?

0 个答案:

没有答案