有没有理由在多处理模块上使用Ipyparallel用于常见的python脚本(不是ipython notebook)?

时间:2016-06-23 22:56:59

标签: python ipython ipython-parallel

有没有理由将Ipyparallel用于常见的python脚本(不是ipython notebook)?

1 个答案:

答案 0 :(得分:8)

有几个原因可以选择IPython parallel,这可能与您有关,也可能不相关:

  1. IPython并行有些东西可以有效地序列化(numpy数组),多处理也不能做,因为它会腌制所有东西
  2. IPython parallel可以在多台机器上分配工作,多处理不能。
  3. IPython并行管理每个引擎上的持久交互式命名空间(一个完整的IPython会话),这对于组合工作和调试很有用。
  4. 一般情况下,如果您只是想在多核计算机上并行化一小段代码,那么IPython parallel并不能为您提供多处理,并且启动和连接到IPython集群的负担不是&#值得的。但是如果你想将它分发到更多的机器上,那么IPython parallel会让你这样做。而且,无论您使用的是一台计算机还是一百台,它的工作方式都相同,您可以在笔记本电脑上进行原型设计,然后在更大规模上运行完全相同的代码而无需任何更改。