使用动态加载的函数作为具有multiprocessing.Pool的目标

时间:2013-11-26 12:13:55

标签: python multiprocessing pyside

我正在开发一个需要在后台进行大量计算的GUI,然后在计算完成后更新GUI。多处理模块似乎是一个很好的解决方案,因为我可以使用* apply_async *方法来指定目标和回调函数。回调函数用于使用结果更新GUI。但是,在尝试将多处理与动态加载的模块组合时,我遇到了困难,如下面的代码所示。错误消息是ImportError:没有名为calc。的模块

错误是由于多处理不能与动态加载的模块一起使用吗?如果没有,有没有更好的方法的想法?

from PySide.QtCore import *
from PySide.QtGui import *
import multiprocessing
import time
import sys
import os
import logging
import imp

PluginFolder = "plugins"
plugins = {}

def f(x):
    y = x*x
    time.sleep(2) #Simulate processing time.
    return y


def load_plugin(name):
    '''Load the python module 'name'
    '''
    location = os.path.join('.', PluginFolder)
    info = imp.find_module(name, [location])
    plugin = {"name": name, "info": info}
    plugins[name] = imp.load_module(name, *plugin["info"])


class MainWindow(QMainWindow):

    def __init__(self):
        super(MainWindow, self).__init__()
        self.pool = multiprocessing.Pool() 
        load_plugin('calc') #load ./plugins/calc.py

        button1 = QPushButton('Calculate', self)
        button1.clicked.connect(self.calculate)
        button2 = QPushButton('Test', self)
        button2.clicked.connect(self.run_test)
        self.text = QTextEdit()

        vbox1 = QVBoxLayout()
        vbox1.addWidget(button1)
        vbox1.addWidget(button2)
        vbox1.addWidget(self.text)
        myframe = QFrame()
        myframe.setLayout(vbox1)

        self.setCentralWidget(myframe)
        self.show()
        self.raise_()



    def calculate(self):
        #self.pool.apply_async(f, [10], callback=self.update_gui) #This works

        #result = plugins['calc'].f(10) #this works
        #self.update_gui(result)

        self.pool.apply_async(plugins['calc'].f, [10], callback=self.update_gui) #This doesn't


    def update_gui(self, result):
        self.text.append('Calculation complete. Result = %d\n' % result)


    def run_test(self):
        self.text.append('Testing\n')


if __name__ == '__main__':
    app = QApplication(sys.argv)
    gui = MainWindow()
    app.exec_()

在./plugins/calc.py中,函数f在上面的代码中定义。

1 个答案:

答案 0 :(得分:1)

由于您将calc模块作为顶级模块加载,因此无效。由于calc或当前目录中不存在模块sys.path,因此import语句无法找到它。用以下代替import语句可以解决这个问题:

plugins[name] = imp.load_module('{}.{}'.format(PluginFolder, name), 
                     *plugin["info"])

对于可导入的plugin.calcplugins必须是python模块,即包含__init__.py文件。

插件文件中的任何import <module>语句(例如plugins/calc.py中的语句都会导致警告,

RuntimeWarning: Parent module 'plugins' not found while handling absolute import import <module>

原因是导入过程会查看父模块是否包含<module>,而在calc.py内部,则无法找到父plugins模块。您可以使用例如主代码中的plugins语句来清除错误地指定import plugins模块位置。