我正在尝试实施多线程'同时进行训练和预测(测试)。我将使用python模块'线程'如https://www.tensorflow.org/api_docs/python/tf/FIFOQueue所示 以下是问题。
如果我使用python模块' threading',tensorflow是否会使用更多部分的gpu或更多部分的cpu?
我是否必须在张量流中制作两个图(具有相同拓扑的神经网络)用于预测,另一个用于训练?或者只制作一张图表可以吗?
我非常感谢能够回答这些问题的任何人!谢谢!
答案 0 :(得分:1)
如果您使用python threading
模块,它只会使用cpu
;同时python线程不是运行时并行,你应该使用multiprocessing
。
在您的模型中,如果您使用的dropout
或batch_norm
类似操作根据training
和validation
进行更改,则最好创建单独的图表,重用(验证图将重用所有训练变量)公共变量进行验证/测试。
注意:您也可以使用一个图表,以及根据培训/验证更改行为的其他操作。