到目前为止我得到了什么

Question

我想在单个ipython会话中打开几个内核，在这些内核上运行代码，然后收集结果。但我无法弄清楚如何收集结果，甚至看不到stdout / stderr。我该怎么办？

到目前为止我得到了什么

我已经管理了前两个步骤（打开内核并在其上运行代码），代码如下：

from jupyter_client import MultiKernelManager
kernelmanager = MultiKernelManager()
remote_id = kernelmanager.start_kernel('python3')
remote_kernel = kernelmanager.get_kernel(remote_id)
remote = remote_kernel.client()
sent_msg_id = remote.execute('2+2')

[我欢迎任何有关如何改进或关闭这些内核和客户端的建议。]

这里，python3可以是我设置的任何内核的名称（可以在命令行中使用jupyter-kernelspec list列出）。我似乎能够运行任何合理的代码来代替'2+2'。例如，我可以写入文件，并且该文件确实已创建。

现在，问题是如何获得结果。我可以得到一些似乎与

相关的信息

reply = remote.get_shell_msg(sent_msg_id)

该回复是这样的字典：

{'buffers': [],
 'content': {'execution_count': 2,
  'payload': [],
  'status': 'ok',
  'user_expressions': {}},
 'header': {'date': datetime.datetime(2015, 10, 19, 14, 34, 34, 378577),
  'msg_id': '98e216b4-3251-4085-8eb1-bfceedbae3b0',
  'msg_type': 'execute_reply',
  'session': 'ca4d615d-82b7-487f-88ff-7076c2bdd109',
  'username': 'me',
  'version': '5.0'},
 'metadata': {'dependencies_met': True,
  'engine': '868de9dd-054b-4630-99b7-0face61915a6',
  'started': '2015-10-19T14:34:34.265718',
  'status': 'ok'},
 'msg_id': '98e216b4-3251-4085-8eb1-bfceedbae3b0',
 'msg_type': 'execute_reply',
 'parent_header': {'date': datetime.datetime(2015, 10, 19, 14, 34, 34, 264508),
  'msg_id': '2674c61a-c79a-48a6-b88a-1f2e8da68a80',
  'msg_type': 'execute_request',
  'session': '767ae562-38d6-41a3-a9dc-6faf37d83222',
  'username': 'me',
  'version': '5.0'}}

Messaging in Jupyter中记录了这一点。没有记录的是如何实际使用它 - 即，我使用哪些功能，何时何地找到消息等等。我已经看过this question及其答案，其中包含有用的相关信息，但并没有让我得到答案。并且this answer也没有获得任何有用的输出。

因此，举例来说，我已尝试使用上面结果中给出的msg_id获取msg，但它只是挂起。我已经尝试了我能想到的一切，但无法弄清楚如何从内核中获取任何东西。我该怎么做？我可以用某种字符串从内核传回数据吗？我能看到它的标准输出和stderr吗？

背景

我正在写一个ipython魔术来在远程内核上运行代码片段。 [编辑：现在已经存在且可用here。]我的想法是，我的笔记本电脑上有一个笔记本电脑，只需要一个像这样的小魔术单元从几个远程服务器收集数据： / p>

%%remote_exec -kernels server1,server2
2+2
! hostname

我使用remote_ikernel轻松自动地连接到这些远程内核。这似乎工作得很好;我已经得到了我的魔法命令，所有的花里胡哨都很好用，打开这些远程内核，并运行代码。现在我想从远程发送回我的笔记本电脑的一些数据 - 大概是通过某种方式序列化它。目前，我认为pickle.dumps和pickle.loads对于这一部分是完美的;我只需要将这些函数从一个内核创建并使用到另一个内核。我宁愿不使用实际文件进行酸洗，尽管这可能是可以接受的。

编辑：

看起来像这样的怪物似乎是可能的：

remote.get_shell_msg(remote.execute('import pickle'))
sent_msg_id = remote.execute('a=2+2', user_expressions={'output':'pickle.dumps({"a":a})'})
reply = remote.get_shell_msg(sent_msg_id)
output_bytes = reply['content']['user_expressions']['output']['data']['text/plain']
variable_dict = pickle.loads(eval(output_bytes))

现在，variable_dict['a']只是4。但请注意，output_bytes是表示这些字节的字符串，因此必须eval。这看起来很荒谬（但仍然没有表明我是如何获得标准输出的）。有没有更好的办法？我如何获得stdout？

编辑2：

虽然我对上面的hack不满意，但我已经成功地使用它来编写一个在github上托管的名为remote_exec的小模块，如上所述。该模块给了我一些ipython魔术，我可以用来在一个或多个其他内核上远程运行代码。这是一个或多或少的自动过程，我非常满意 - 除了对下面发生的事情的唠叨知识。

Answer 1

你似乎正在重新发明轮子。您不希望自己管理内核。使用ipyparallel之类的制作来生成许多内核并分散/收集数据（基本上你正在重新发明它的工作原理）。您可能也会对dask感兴趣并阅读one introduction from the author。 IPyparallel和dask作者正在共同努力使这两个项目相互配合良好。不管理内核，而是使用ipyparallel。

在（i）python脚本中从jupyter内核获取输出

到目前为止我得到了什么

背景

编辑：

编辑2：

1 个答案: