我正在使用tensorflow 1.12运行模型,我将tf.estimator.Estimator API和MirroredStrategy一起用作训练策略。
使用所有可用的设备来产生结果,估算器的训练和评估方法可以很好地工作。但是,当我尝试使用预测来获取模型生成的logit时,我只会在第一个可用的GPU设备中看到活动。我正在使用预测来处理我的验证集,并收集生成的logit,并且仅使用一种设备执行此操作对我而言不是很有效。
所以我的问题是:有什么方法可以为预测方法指定一种分配策略,以便我可以利用所有可用的GPU来获得结果吗?
谢谢。