标签： batch-file machine-learning neural-network backpropagation
反向传播计算每个模式每个权重的dW（权重增量），因此在进行随机训练时如何直接修改权重。但是，我如何将其用于批量培训？只需在整个训练集上累积dW，然后应用修改，或者还有更多内容吗？
dW
答案 0 :(得分：2)
您可以使用不同样本中的不同渐变做很多事情。这包括更高阶信息（近似二阶导数）或共轭梯度或自然梯度或......：）
答案 1 :(得分：0)
是的，只需在整个训练集上累积dW。至少这就是我在毕业学校编写代码的方式......