我在哪里可以找到tensorflow中每个操作的梯度计算实现?

时间:2017-04-05 22:05:24

标签: tensorflow

我浏览了这个python文件中实现的源代码和渐变函数

https://github.com/tensorflow/tensorflow/blob/master/tensorflow/python/ops/gradients_impl.py

但是我仍然无法找到任何用于计算渐变的python api? 这个过程是什么?

1 个答案:

答案 0 :(得分:0)

这是我的代码中的一个例子,我在我的网络的最后一层的激活中使用我的损失函数的梯度,然后以单个标量值和直方图的形式将其传递给tensorboard

gradient_a = tf.gradients(loss, [0], [3]), [out_layer_a], name='gradient_position_a')
tf.summary.scalar('mean_gradient_magnitude_a', tf.reduce_mean(tf.abs(self.gradient_a)))
tf.summary.histogram('gradient_magnitude_a', gradient_a)

如果您想输出渐变,只需在调用session.run([loss, gradient_a], feed_dict={...})

时获取gradient_a