我试图在Scrapy
上运行heroku
蜘蛛。这是我的requirements.txt
:
Flask==0.10.1
gunicorn==0.17.2
requests==2.4.3
python-dateutil==2.2
cffi==1.5.0
Scrapy==1.0.5
Twisted==15.5.0
当我将应用推送到heroku
时,日志表示Twisted
已成功安装。代码中的一些地方:
import scrapy
from scrapy.crawler import CrawlerProcess
def crawl():
process = CrawlerProcess({
'USER_AGENT': 'Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1)'
})
process.crawl(WallpaperSpider)
process.start()
return wallpaper_url
但是当我尝试在heroku
上运行该代码时,我收到以下错误:
文件 " /app/.heroku/python/lib/python3.4/site-packages/scrapy/crawler.py" ;, 第46行,在 init
中文件" /app/netimen.py" ;,第141行,在壁纸中
ImportError:没有名为' twisted.mail'
的模块
我在这里做错了什么?我从不直接导入twisted.mail
。它似乎是由scrapy
答案 0 :(得分:1)
我刚刚将scrapy
升级为版本1.1rc1
时修复了问题。