计算权重优化器之间的角度

Question

我正在尝试计算权重之间的角度，似乎使用任何一种提供的范式都会很快导致大量的inf和nan。有谁知道如何做到这一点？我在Google上做了一些挖掘工作，并在https://github.com/tensorflow/tensorflow/issues/12071上尝试过一次，涉及到tf.norm的梯度计算的数值不稳定性（数值为0时为nan，小数值为inf），这似乎没有用。