梯度下降算法中delta的确切含义是什么？

时间：2011-10-27 19:17:08

标签： math machine-learning linear-regression recursive-descent

如图所示：

enter image description here

有人可以帮我理解梯度下降算法中delta的含义究竟是什么？

2 个答案:

答案 0 :(得分：4)

这是关于theta_0的偏导数。

答案 1 :(得分：2)

相对于theta 0，该字词为derivative。

  • 将theta标记为X轴上的坐标（让它为A）
  • 在Y轴上找到相应的坐标（让它为B），使该点属于函数J
  • 在点（A，B）处绘制该函数的切线
  • 导数是此切线的斜率。

enter image description here

该导数用于控制成本函数（J函数）最小化的两个方面：

  • 方向 - 斜率的符号告诉您应沿X轴向哪个方向移动以收敛J
  • 率 - 坡度的大小告诉你应该多快移动
相关问题
最新问题