是否有可能拦截来自某个任意图层的向后渐变,修改其值并继续将反向传播回到网络的开头,根据您提供的修改后的渐变值更新所有先前图层的后向渐变?
我知道你可以directly modify the gradients themselves before applying the update,但据我所知,这只会修改指定图层的渐变,而不会传播到前一层'梯度。
答案 0 :(得分:1)
您应该能够创建一个修改后的自定义渐变操作,使用此处描述的方法为您执行此操作:Tensorflow: How to replace or modify gradient?