optimizer.compute_gradients如何以编程方式计算渐变？

Question

我是机器学习的新手。我正在经历张量流，我对某个特定功能有疑问。

grads_and_vars = optimizer.compute_gradients（loss）有人可以解释如何以编程方式计算渐变（即它用于计算渐变的公式）？

Answer 1

Tensorflow使用称为反向模式自动区分的算法。这里解释的主题太复杂了，但维基百科页面是一个很好的起点：

https://en.wikipedia.org/wiki/Automatic_differentiation

希望有所帮助！