加载TensorFlow后分叉python进程

Question

tf.Session()不是fork安全的，这意味着在将TensorFlow加载到内存中时分支进程后系统的行为是未知的。

是否有任何解决方法可以在多个进程之间共享多个设备（在一台计算机上）？

Answer 1

在多个进程之间共享TensorFlow运行时的标准方法是使用distributed TensorFlow support，它也可以在一台计算机上运行。

在一个过程中，您可以通过运行以下代码来启动服务器：

import tensorflow as tf
server = tf.train.Server.create_local_server()
print server.target  # for other processes to connect
server.join()

默认情况下，此过程将拥有计算机上的所有设备。

在其他进程中，您可以创建连接到服务器的tf.Session个对象：

sess = tf.Session("grpc://localhost:...")  # Use value of `server.target`.

这些会话可以像进程内会话一样使用。