我是否应该向通过遗传算法训练的人工神经网络添加偏差

时间:2012-01-20 00:20:46

标签: artificial-intelligence neural-network genetic-algorithm artificial-life

我有一个控制人工草食动物的人工神经网络。输入是最接近的植物的大小和方向,最接近的配偶的大小和方向,以及草食动物的健康。输出是运动矢量(方向和幅度)。如果正在通过遗传算法训练,是否有必要使用偏见?

2 个答案:

答案 0 :(得分:7)

偏差用于将神经网络的干扰边界偏离原点。对于进行简单线性分类的简单感知器,这等于移动分隔两个类的线。 (在简单线性回归中考虑c。

遗传算法只是搜索最佳权重的众多方法之一。它不关心你是否有偏见,因为偏见只是另一个权重!

因此使用偏见,它可以加快培训速度并允许网络学习其他方式无法学习的模式!

编辑以回答您的具体问题:没有必要使用偏见本身,网络可以在没有它的情况下工作,但由于它很容易实现并改善您的网络 - 使用它!

答案 1 :(得分:-2)

你应该使用偏见,偏见不仅可以让你解决不可线性分离的问题;但它也允许训练伪阈值,伪阈值是偏置神经元和其他神经元之间的互连。一般来说,它更有可能帮助你的尝试而不是阻碍它们。