在训练神经网络时，您是否必须包含偏见？

Question

我正在努力回答这个问题（来自examination）：

  

以表格形式显示培训的前五个时期   perceptron执行布尔OR运算;使用初始权重   0.3和-0.2;阈值为0.2;和学习率   0.1

我在这里提出了一个答案： https://docs.google.com/spreadsheet/pub?key=0AqDm6Izoam4OdF9sWXNQT0FqOF90UWpTeC1LdTd4VUE&output=html

但与维基百科中的example不同，我没有包含偏见。有必要吗？

Answer 1

不，你不需要 在你的神经网络中有一个偏置节点 - 许多网络仍然可以收敛到没有一个的解决方案。然而，鉴于神经网络收敛有时可能是挑剔的，因此具有偏置节点通常是个好主意。从本质上讲，正如Role of Bias in Neural Networks所讨论的那样，它为神经网络提供了一种方法来调整激活级别需要多高才能使节点触发。它在概念上类似于在线方程中包括y截距。