Python中的多处理:处理多个工作线程

时间:2019-04-06 04:40:04

标签: python python-3.x multithreading python-multiprocessing

在我的代码中,我需要在python程序中运行多个工作线程实例。我最初创建几个工作线程实例(例如10),然后将它们添加到池中。每当客户端请求服务时,都应为该线程调用并保留一个线程。完成任务后,线程应重新添加到池中。

到目前为止,我已经编写了以下代码。但是我不确定如何在线程中永久运行线程(线程应在池中处于休眠状态),在需要时调用并获取服务,以及在处理后将其重新添加到池中(应再次进入睡眠状态)。任何帮助将不胜感激。

PRED = Queue(10)

class Worker(threading.Thread):
    def __init__(self, threadID, name):
        threading.Thread.__init__(self)
        self.threadID  =threadID
        self.name = name

    def run(self):
        print("starting " + self.name + " thread")
        while True:
            ??
        print("Exiting " + self.name + " thread")


def work():
    print("working")
    time.sleep(3)
  • 假设工作线程在PRED队列中。
  • work()是我应为客户服务的方法。

2 个答案:

答案 0 :(得分:1)

使用任务队列将任务发送给您的工作人员。让您的工作人员听任务队列,然后等待它是否为空。当工作人员从队列中获取任务时,应执行该任务,然后返回轮询队列。相当标准的工作者模式。

当我说任务时,我的意思是您可以将实际方法放入队列。工人可以拿起并执行它。

答案 1 :(得分:0)

这是我从Python文档中得到的

  

了解更多:https://docs.python.org/3/library/queue.html#queue.Queue.join

确保您对它有很好的了解,其中有一些很酷的选择,例如创建优先级队列或先进先出或后进先出。

import queue
import threading
import time


# The queue for tasks
q = queue.Queue()


# Worker, handles each task
def worker():
    while True:
        item = q.get()
        if item is None:
            break
        print("Working on", item)
        time.sleep(1)
        q.task_done()


def start_workers(worker_pool=1000):
    threads = []
    for i in range(worker_pool):
        t = threading.Thread(target=worker)
        t.start()
        threads.append(t)
    return threads


def stop_workers(threads):
    # stop workers
    for i in threads:
        q.put(None)
    for t in threads:
        t.join()


def create_queue(task_items):
    for item in task_items:
        q.put(item)


if __name__ == "__main__":
    # Dummy tasks
    tasks = [item for item in range(1000)]

    # Start up your workers
    workers = start_workers(worker_pool=10)
    create_queue(tasks)

    # Blocks until all tasks are complete
    q.join()

    stop_workers(workers)