问题：我应该如何定义一个与学习率的默认值匹配的自定义损失函数？
很明显，定义适当的损失函数对于训练神经网络至关重要。
另一方面，学习率是必须正确设置的重要参数。
据我所知，损失函数和学习率紧密相关，因为它们直接确定网络权重的新值：
w_new = w_old - learning_rate * (gradient_of_loss w.r.t. w)
例如，可以选择以下损失函数：
loss_1 = || y_pred - y_true||^2_2
但是另一个选择了以下内容：
loss_2 = (1/2)|| y_pred - y_true||^2_2
在许多神经网络/深度学习框架中，学习率的值设置为默认值。因此，使用默认学习率，后者损失函数中的有效学习率是前者的一半。如果我错了，请纠正我。