将Anaconda-Scrapy作为Cron工作

时间:2017-07-18 15:48:10

标签: python cron scrapy anaconda centos7

我正在尝试运行scrapy(与anaconda2一起安装)爬虫作为cron作业。到目前为止没有运气。

这是cron命令:

* * * * * sh /home/username/anaconda2/folder/getdata.sh

cron每1分钟运行一次(我检查了日志文件,似乎没问题) 这是sh文件中的代码:

#!/home/username/anaconda2/bin/python
cd /home/username/anaconda2/crawler_folder
PATH=$PATH:/home/username/anaconda2/bin
export PATH
scrapy crawl spider

sh代码在终端中按预期执行,但不作为cron作业执行。 你能帮忙吗

1 个答案:

答案 0 :(得分:0)

这对我来说是起作用的.sh文件和cron作业没有改变。

#!/home/username/anaconda2/bin/bash
PATH=/home/username/anaconda2/bin:home/username/anaconda2/sbin
cd /home/username/anaconda2/crawler_folder && scrapy crawl spider