线性回归和梯度下降

Question

在线性回归中，我们有计算斜率和截距的公式，以找到最佳拟合线；那么为什么我们需要使用梯度下降来计算我们已经通过给定公式得到的最佳斜率和截距？

Answer 1

我猜你指的是线性回归的闭式解。

是的 - 您完全可以为此目的使用它。但是，这仅在您将所有数据都能够放入内存时才有效，而在使用梯度下降时您不一定需要这种方式：由于梯度下降是一个迭代过程，您可以换入和换出一些数据，使其更多适用于大数据。

有关详细信息，请参阅交叉验证主题 Solving for regression parameters in closed-form vs gradient descent。