我在神经网络中实现梯度下降，而且我无法理解为什么我们需要找到关于所有和偏差的导数，因为如果我们我们已经通过前向传播来影响偏差。
改变偏见，尽管改变了这一点似乎是双重步骤。
获取我的信息答案 0 :(得分：0)
神经网络应该能够代表任何功能。假设您要学习的真正函数是f（x）= 2x + 5，并且您的神经网络由一个具有一个输入和一个输出的神经元组成。它可以学习＆＃34; 2x＆＃34;部分是通过改变它的权重，但它必须改变它的偏见来学习＆＃34; + 5＆＃34;一部分。
编辑：考虑您希望您的网络输出＆＃34; 1＆＃34;当所有输入都为0.您不能从输入的线性组合中将0更改为非零值。你需要在网络中的某个地方存在偏见。