如何以一种不简单的平均方式聚合来自分布式张量流中并行工作者的梯度?

时间:2018-12-23 10:03:16

标签: python tensorflow gradients

我是分布式张量流的新手,我想使用SyncReplicasOptimizer()以不同的方式累积每次迭代中并行工作人员的梯度,例如加权平均值或计算gradeitns的几何平均值,我如何实现这个。

0 个答案:

没有答案