Question

您好我有以下代码：

    import sys
import multiprocessing as mp


def create_parser():
    from argparse import ArgumentParser, FileType
    ap = ArgumentParser()
    ap.add_argument('infile', type=FileType('r'),
        help="file with shell commands to execute")
    ap.add_argument('-n', '--ncpu', type=int, default=0,
        help="Number of CPUs to use (default: %(default)s: all CPUs)")
    return ap


def cpus_to_use(ncpu):
    return ncpu if ncpu else mp.cpu_count()


if __name__ == '__main__':
    from subprocess import call

    ap = create_parser()
    args = ap.parse_args(sys.argv[1:])

    ncpu = cpus_to_use(args.ncpu)

    if args.infile:
        # Read commands from already open file and close
        commands = [c for c in args.infile.read().split('\n') if c]
        args.infile.close()

        # Create a pool and map run_cmd to the shell commands
        pool = mp.Pool(processes=ncpu)
        pool.map(call, commands)

我基本上是从命令行导入一个文本文件，每个行都有一个特定的命令要执行（我正在尝试并行化）。我使用的是Python 2.7.12，print（命令）的输出看起来很好。

我怀疑最后一行行语法中出现错误，因为我得到了：文件“run_parallel.py”，第47行，in pool.map（调用，命令）在地图中输入文件“/home/ect/anaconda2/lib/python2.7/multiprocessing/pool.py”，第251行 return self.map_async（func，iterable，chunksize）.get（）文件“/home/ect/anaconda2/lib/python2.7/multiprocessing/pool.py”，第567行，获取提升self._value

谢谢

Answer 1

commands = [c.split() for c in args.infile.read().split('\n') if c]

（这是来自http://sburns.org/2014/05/03/cortical-tractography-recipe.html，对吗？我刚遇到同样的问题:) 它似乎可以通过在空格中分割命令中的每个条目来工作，这样池就能够正确地解析每个函数调用的参数。

Python在map中执行subprocess.call

1 个答案: