Tensorflow:拦截,修改渐变并继续反向传播

时间:2017-05-25 05:55:48

标签: tensorflow deep-learning backpropagation

是否有可能拦截来自某个任意图层的向后渐变,修改其值并继续将反向传播回到网络的开头,根据您提供的修改后的渐变值更新所有先前图层的后向渐变?

我知道你可以directly modify the gradients themselves before applying the update,但据我所知,这只会修改指定图层的渐变,而不会传播到前一层'梯度。

1 个答案:

答案 0 :(得分:1)

您应该能够创建一个修改后的自定义渐变操作,使用此处描述的方法为您执行此操作:Tensorflow: How to replace or modify gradient?