在区分情况下，MSE中的术语顺序重要吗？

Question

均方误差是机器学习中常用的代价函数：

(1/n) * sum(y - pred)**2

基本上，减法项的顺序无关紧要，因为整个表达式都是平方的。

但是，如果我们区分该函数，它将不再平方：

2 * (y - pred)

顺序会对神经网络产生影响吗？

在大多数情况下，颠倒术语y和pred的顺序会改变结果的符号。当我们使用结果来计算权重的斜率时，会影响神经网络的收敛方式吗？

Answer 1

好吧，

和

所以它们是相同的。

（我假设y_i是导数w.r.t.，假设它们是网络输出，但是如果用\hat{y}_i得出，则当然也是一样。）