为什么随机输入被推荐用于随机Gradiant下降

Question

如果我错了，请纠正我？

1）对于Batched Gradient Descent，目标函数的系数在训练的所有实例结束时更新。例如：如果我要训练100张图像，在训练第100张图像后，评估成本并更新系数。

2）对于随机梯度下降，对于相同的100张图像，每张图像都经过训练，系数会更新。

问题：

对于随机梯度下降，声称输入图像需要随机化以避免卡住。我无法想象这个问题。有人可以帮忙吗？

Answer 1

随机梯度下降会根据之前的训练数据进行更新。

因此，我们必须改变我们的训练集，防止重复相同的更新。