标签: neural-network
梯度下降和delta规则之间有什么区别?
答案 0 :(得分:7)
没有数学:delta规则使用梯度下降来最小化感知器网络权重的误差。
梯度下降是一种通用算法,它逐渐改变参数向量以最小化目标函数。它通过沿最小阻力方向移动,即具有最大(负)梯度的方向来实现。
您可以通过获取目标函数的导数来找到这个方向。这就像在平滑的丘陵景观中放下一块大理石。它仅保证当地的最低限度。因此,简短的回答是delta规则是使用通用算法梯度下降的特定算法。