使用Python的“Scrapy”时出错

时间:2011-03-15 23:10:26

标签: python scrapy

我在Python 2.7上安装了最新版本的Scrapy(是的,我仍然使用这个版本),并且在运行Scrapy的教程脚本时遇到错误。 我正在运行的代码是:

from scrapy.spider import BaseSpider

class DmozSpider(BaseSpider):
    name = "dmoz.org"
    allowed_domains = ["dmoz.org"]
    start_urls = [
        "http://www.dmoz.org/Computers/Programming/Languages/Python/Books/",
        "http://www.dmoz.org/Computers/Programming/Languages/Python/Resources/"
    ]

    def parse(self, response):
        filename = response.url.split("/")[-2]
        open(filename, 'wb').write(response.body)

错误是:

Traceback (most recent call last):
  File "C:/Users/Rainey/Desktop/dmoz/spiders/dmoz_spider.py", line 1, in <module>
    from scrapy.spider import BaseSpider
  File "C:\Python27\lib\site-packages\scrapy\spider.py", line 7, in <module>
    from scrapy import log
  File "C:\Python27\lib\site-packages\scrapy\log.py", line 10, in <module>
    from twisted.python import log
ImportError: No module named twisted.python

教程脚本在我的桌面上。这会产生影响吗?我应该把它放在不同的地方吗?

2 个答案:

答案 0 :(得分:5)

错误消息' ImportError:没有名为twisted.python的模块'表示您缺少twisted模块。

使用像pip或download a Windows binary这样的包管理器进行扭曲安装。

答案 1 :(得分:2)

您没有在Windows上成功安装scrapy。以下步骤应该适用于在Windows上安装scrapy 0.14(最新版)。

  1. 使用Windows安装程序here安装lxml-2.3。我试过libxml但不行。
  2. 使用Windows安装程序here
  3. 安装Twisted-12.0.0
  4. 使用Mingw32安装zope.interface。
  5. 使用Windows安装程序here
  6. 安装pyOpenSSL 0.13
  7. 运行“ pip install scrapy ”,你准备好了!
  8. 希望它有所帮助。