具有多个输出的反向传播

Question

我目前正在编写一个神经网络模块，我已经了解了一切只能用于一个输出。但是当有多个输出时，我被告知要总结每个输出的误差以计算损失函数，这对我没有任何意义，因为那时我们现在真的不知道哪个突触/重量对错误负责。 例如，我们有一个形状为2 | 1 | 2的NN（输入，隐藏，输出）...... 因此隐藏层中的神经元通过一些称重连接到每个输出神经元。如果我们现在向前传播并接收每个输出神经元的误差并将该误差相加，则与隐藏层中的神经元连接的每个权重将被调整完全相同的量。如果我弄错了或者我明白了什么问题，现在有人吗？

Answer 1

我认为您误解了，损失函数通常是针对反向传播的每个输出单独计算的。如果你想知道输出中的总误差来跟踪你的进度，那么我想你可以使用这个错误的总和。