对

Question

好的，这样我就可以了解偏置节点。它水平移动传递函数曲线，使其更适合数据。我看到的问题是偏置节点权重值的计算与任何其他权重一样。这是正确的吗？是否应以其他方式计算偏差权重？也不应该有另一个偏差值来上下移动传递函数？像这样：f（x1 + x2 ... + b1）+ b2。我不知道你将如何计算b2。任何想法？

Answer 1

对于您的第一个问题，计算偏置节点权重值与任何其他权重一样，即通过使用反向传播是最健全的训练方式并且运行良好。还有其他训练方法，但凭经验反向传播方法更好。

你的第二个问题的答案是f（x1 + x2 ... + b1）+ b2没有意义。您有一个激活函数的一维输入（f）。 y轴绘制输出。偏差不会改变函数曲线的形状。对于函数在y轴上进行的每个截距，您将在X轴上具有唯一的截距。所以X轴截距足以描述曲线。就像y = mx + c就足以描述任何一行。

对于权重为x'1，x'2的所有激活函数，

f（x1 + x2 ... + b1）+ b2可以分解为f（x'1 + x'2 ... + b'1） ...和b'1可以在图表上包含垂直功能时刻，这将成为您新的激活功能。