Question

我正在用Python开发一个多线程应用程序。特别是，在此应用程序中，线程应该能够生成应该通知一个（或多个）线程的事件;接收事件通知的线程应该中断它们的执行并运行特定的功能。在这个服务功能结束时，他们应该在事件生成之前回去做他们正在做的事情。

为了做这样的事情，我正在考虑使用某种发布/订阅模块。我找到了一个非常容易使用的：PyPubSub。您可以找到here一个关于如何使用它的非常简单的示例。

顺便说一下，当我开始使用它的时候，我意识到它完成了我想要的，但只有当你只使用进程。如果你有更多线程，它会挂起整个进程（因此，其中的所有线程）来运行一个特定的例程。这实际上不是我想要的行为。不幸的是，我无法将我的应用程序从多线程更改为多进程。

您是否知道任何可以帮助我在多线程应用程序中执行操作的模块？感谢。

Answer 1

除了通过多处理模块之外，python中没有真正的并发性，因为GIL不是图片的一部分。

您想要做的事情需要一个事件循环，您可以在其中检查事件队列并根据需要进行调度。 Pypubsub可能会让你的生活变得更轻松但是对于你想要的东西可能有点过分（作为pubsub的作者我觉得很自在地说:)鉴于mp模块如何提供多个进程的无缝集成，是否真的有理由不使用它如果并发真的是你需要的吗？

您希望事件从任何线程转到一个或多个线程的事实表明您可以使用任何线程可以发布到的共享帖子队列，哪些数据指示哪个事件类型和事件数据。此外，每个线程都有一个消息队列：线程发布到共享帖子队列，主进程事件循环检查后队列并根据需要将事件复制到各个线程消息队列。每个线程必须定期检查其队列并处理，删除已处理的事件。每个线程都可以为特定事件订阅主进程。

以下是3个辅助线程相互发送消息的示例：

from multiprocessing import Process, Queue, Lock
from Queue import Empty as QueueEmpty
from random import randint


def log(lock, threadId, msg):
    lock.acquire()
    print 'Thread', threadId, ':', msg
    lock.release()


def auxThread(id, lock, sendQueue, recvQueue, genType):
    ## Read from the queue
    log(lock, id, 'starting')
    while True:
        # send a message (once in a while!)
        if randint(1,10) > 7:
            event = dict(type = genType, fromId = id, val = randint(1, 10) )
            log(lock, id, 'putting message type "%(type)s" = %(val)s' % event)
            sendQueue.put(event)

        # block until we get a message:
        maxWait = 1 # second
        try:
            msg = recvQueue.get(False, maxWait)
            log(lock, id, 'got message type "%(type)s" = %(val)s from thread %(fromId)s' % msg)
            if (msg['val'] == 'DONE'):
                break
        except QueueEmpty:
            pass

    log(lock, id, 'done')


def createThread(id, lock, postOffice, genType):
    messagesForAux = Queue()
    args = (id, lock, postOffice, messagesForAux, genType)
    auxProc = Process(target=auxThread, args=args)
    auxProc.daemon = True
    return dict(q=messagesForAux, p=auxProc, id=id)


def mainThread():
    postOffice = Queue()   # where all threads post their messages
    lock = Lock() # so print can be synchronized

    # setup threads:
    msgThreads = [
        createThread(1, lock, postOffice, 'heartbeat'),
        createThread(2, lock, postOffice, 'new_socket'),
        createThread(3, lock, postOffice, 'keypress'),
    ]

    # identify which threads listen for which messages
    dispatch = dict(
        heartbeat  = (2,),
        keypress   = (1,),
        new_socket = (3,),
    )

    # start all threads
    for th in msgThreads:
        th['p'].start()

    # process messages
    count = 0
    while True:
        try:
            maxWait = 1 # second
            msg = postOffice.get(False, maxWait)
            for threadId in dispatch[msg['type']]:
                thObj = msgThreads[threadId - 1]
                thObj['q'].put(msg)
            count += 1
            if count > 20:
                break

        except QueueEmpty:
            pass

    log(lock, 0, "Main thread sending exit signal to aux threads")
    for th in msgThreads:
        th['q'].put(dict(type='command', val='DONE', fromId=0))

    for th in msgThreads:
        th['p'].join()
        log(lock, th['id'], 'joined main')
    log(lock, 0, "DONE")


if __name__ == '__main__':
    mainThread()

你完全正确，这个描述与pypubsub功能有相似之处，但是你只会使用pypubsub的一小部分，我认为你努力的大部分复杂性是两种类型的队列，pypubsub对这个问题不太有帮助这个问题。一旦你让队列系统使用mp模块工作（根据我的例子），你可以引入pypubsub并发布/排队它的消息而不是你自己的事件植入。

Python：管理由其他线程通知的事件的线程

1 个答案: