使用python多处理模块递增/递减全局变量

时间:2015-09-15 17:48:28

标签: python global-variables shared-memory python-multiprocessing

我正在尝试启动多个进程来并行化某些任务,并希望每个进程执行一个方法X()时,一个全局变量将减1。

我试着查看multiprocessing.Value方法,但不确定这是否是唯一的方法。有人可以提供一些代码片段吗?

from multiprocessing import Pool, Process

def X(list):
  global temp
  print list
  temp = 10
  temp -= 1
  return temp

list = ['a','b','c']
pool = Pool(processes=5)
pool.map(X, list)

通过使用全局变量,每个进程都获得自己的全局变量副本,但这并不能解决共享它的价值的问题。我相信,需要有一种共享内存系统,但我不知道该怎么做。感谢

1 个答案:

答案 0 :(得分:1)

counter变量移动到主进程中,即避免在进程之间共享变量:

for result in pool.imap_unordered(func, args):
    counter -= 1
只要相应的结果(counter)可用,

func(arg)就会递减。这是一个完整的代码示例:

#!/usr/bin/env python
import random
import time
import multiprocessing

def func(arg):
    time.sleep(random.random())
    return arg*10

def main():
    counter = 10
    args = "abc"
    pool = multiprocessing.Pool()
    for result in pool.imap_unordered(func, args):
        counter -= 1
        print("counter=%d, result=%r" % (counter, result))

if __name__ == "__main__":
    main()

另一种方法是将multiprocessing.Value()对象传递给每个工作进程(使用initializeinitargs Pool()的参数。)