相对梯度误差

Question

是否有一种简单的方法来计算张量流中的相对梯度误差？所有可用的是tf.test.compute_gradient_error，但它计算绝对梯度误差而不是相对误差。那些计算数字和理论雅可比人的方法，但它们是私人的。

Answer 1

我自己找到答案tf.test.compute_gradient返回两个jacobians，所以我可以用它们来查找相对渐变错误。即如果我使用L-infinity范数，我可以使用tf.test.compute_gradient_error并将两个jacobians的最大元素分开。