如何在Python中使用beanstalkc来排队URL和执行作业

时间:2011-06-27 08:03:19

标签: python beanstalkd beanstalkc

我有一个名为spider的函数,它以seed为参数。 seed是我发送给蜘蛛功能的URL的名称。现在我的问题是如何在Python中使用beanstalkc来排队URL并执行作业。

1 个答案:

答案 0 :(得分:1)

根据您需要的tutorial

  1. beanstalkd服务器正在运行。
  2. 连接:

    import beanstalkc
    beanstalk = beanstalkc.Connection(host='localhost', port=14711)
    
  3. 使用以下方式添加作业:

    beanstalk.put('seed url')
    
  4. 通过以下方式获得工作:

    job = beanstalk.reserve()
    spider(job.body)
    
  5. 将工作标记为已完成:

    job.delete()