我试图实现多线程'同时进行训练和预测(测试)

时间:2017-08-08 07:12:59

标签: multithreading tensorflow neural-network gpu

我正在尝试实施多线程'同时进行训练和预测(测试)。我将使用python模块'线程'如https://www.tensorflow.org/api_docs/python/tf/FIFOQueue所示 以下是问题。

  1. 如果我使用python模块' threading',tensorflow是否会使用更多部分的gpu或更多部分的cpu?

  2. 我是否必须在张量流中制作两个图(具有相同拓扑的神经网络)用于预测,另一个用于训练?或者只制作一张图表可以吗?

  3. 我非常感谢能够回答这些问题的任何人!谢谢!

1 个答案:

答案 0 :(得分:1)

  1. 如果您使用python threading模块,它只会使用cpu;同时python线程不是运行时并行,你应该使用multiprocessing

  2. 在您的模型中,如果您使用的dropoutbatch_norm类似操作根据trainingvalidation进行更改,则最好创建单独的图表,重用(验证图将重用所有训练变量)公共变量进行验证/测试。

  3. 注意:您也可以使用一个图表,以及根据培训/验证更改行为的其他操作。