如何确定模型或图形使用哪种配准梯度法?

时间:2019-05-23 14:12:12

标签: python tensorflow

有几条SO帖子显示了如何使用tf.custom_gradienttf.RegisterGradient装饰器创建自定义渐变。

@ops.RegisterGradient("MyCustomGradient")
@tf.custom_gradient("MyCustomGradient")

但是您如何明确查找当前模型或图形使用了哪些梯度方法?查看ops._gradient_registry._registry,当前有4个不同的Relu键:

  • 'Relu'
  • 'Relu6'
  • 'Relu6Grad'
  • 'ReluGrad'

如果我想使用自定义渐变色来代替'Relu',我一直在使用:

with g.gradient_override_map({'Relu': 'MyCustomGradient'}):
    ...

但是如何确定'Relu'是否实际上是图形或模型当前正在使用的渐变方法?

0 个答案:

没有答案