我想使用compute_gradients
并生成局部渐变。这些梯度将使用来自其他机器的多个局部梯度进行平均,之后将调用apply_gradients
。我在第二个接受渐变的第二个中使用 2 session.runs
和feed_dict
。由于apply_gradients
需要一个元组列表,我正在寻找一种有效的方法。
这就是我生成元组占位符列表的方式:
grads = cifar10.train_part1(loss, global_step)
xx = [tf.placeholder(tf.float32, shape=grads[0][0].shape) for i in range(10)]
yy = [tf.placeholder(tf.float32, shape=grads[0][0].shape) for i in range(10)]
xyz = zip(xx,yy)
train_op = cifar10.train_part2(loss,global_step, xyz)
我收到以下错误:
NotImplementedError: ('Trying to optimize unsupported type ', tf.Tensor 'Placeholder_10:0' shape=(5, 5, 3, 64) dtype=float32)