Python-如何在类实例中使用多处理锁?

时间:2018-11-01 06:44:32

标签: python-3.x locking python-multiprocessing python-3.7

我正在Windows上使用Python 3.7。

我正在尝试做的事情: -当另一个进程获得相同的锁时,锁定该类实例的方法。

尝试:

我已经成功完成了this,但是我不想在这里使用全局变量作为锁,而是在类内部完全使用了

from multiprocessing import Lock, freeze_support,Pool
from time import sleep

def do_work(name):
    print(name+' waiting for lock to work...',end='')
    sleep(2)
    with lock:
        print('done!')
        print(name+' doing work...',end='')
        sleep(5)
        print('done!')

def init(olock):
    global lock
    lock = olock

if __name__ == '__main__':
    freeze_support()
    args_list = [('a'),('b'),('c')]
    lock=Lock()
    p=Pool(8,initializer=init,initargs=(lock,))
    p.map_async(do_work,args_list)
    p.close()
    p.join()

这最后一段代码运行时,由于锁定,它需要〜17.3秒。没有锁,它需要〜7秒

我试图在一个类中实现此功能,但是该锁没有执行任何操作,并且始终在〜7秒内运行。

class O():
    def __init__(self):
        self.lock=Lock()
    def __getstate__(self): # used to remove multiprocess object(s) from class, so it can be pickled
        self_dict=self.__dict__.copy()
        del self_dict['lock']
        return self_dict
    def __setstate__(self,state): # used to remove multiprocess object(s) from class, so it can be pickled
        self.__dict__.update(state)
    def _do_work(self,name):
        print(name+' waiting for lock to work...',end='')
        sleep(2)
        with self.lock:
            print('done!')
            print(name+' doing work...',end='')
            sleep(5)
            print('done!')

if __name__ == '__main__':
    freeze_support()
    c = O()
    pool = Pool(8)
    pool.apply_async(c._do_work,('a',))
    pool.apply_async(c._do_work,('b',))
    pool.apply_async(c._do_work,('c',))
    pool.close()
    pool.join()

问题: 那么,当我调用通过多处理与资源异步交互的方法时,如何锁定该类实例呢?

1 个答案:

答案 0 :(得分:1)

apply_async将使函数对象腌制并按队列发送到池工作进程,但是由于c._do_work是绑定方法,因此实例也将被腌制,这将导致错误。您可以将其包装在一个普通函数中:

c = O()
def w(*args):
    return c._do_work(*args)

if __name__ == '__main__':
    pool = Pool(1)
    pool.apply_async(w, ('a',))
    ...

,您应该删除__setstate__ / __getstate__