为什么神经网络中需要权重和偏差?

时间:2017-06-12 10:27:36

标签: machine-learning tensorflow neural-network

所以我现在一直在尝试在假期中学习神经网络,而且我已经经历了很多关于这个问题的网页。现在有一点我不明白为什么我们需要权重和偏见?

对于权重,我有这种直觉,我们试图将某些常数乘以输入,以便我们可以达到y的值并知道关系,有点像y = mx + c。如果可能的话,请帮助我直觉。在此先感谢:)

1 个答案:

答案 0 :(得分:4)

我想从this site将这个答案归功于Jed Fox,我在那里修改了他的解释。这是神经网络的一个很好的介绍!:

https://github.com/cazala/synaptic/wiki/Neural-Networks-101

改编答案:

网络中的神经元基于自然界中发现的神经元。他们接收信息,并根据该信息,将违反某些回应。 “激活”。

人工神经元看起来像这样:

Neuron J. Neuron j

人工神经元

正如您所看到的,他们有几个输入,每个输入都有一个权重(特定连接的权重)。当人工神经元激活时,它通过将所有输入输入乘以其相应的连接权重来计算其状态。但神经元总是有一个额外的输入,偏差,总是1,并有自己的连接权重。这确保即使所有输入都没有(全0),神经元中也会激活。

在计算其状态后,神经元将其通过其激活函数,该函数将结果标准化(通常在0-1之间)。

这些权重(有时是偏差)是我们在神经网络中学到的。将它们视为系统的参数。没有他们,他们就没用了!

补充评论: 在网络中,那些加权输入可能来自其他神经元,因此您可以开始看到权重也描述了神经元如何相互关联,通常表示2个神经元之间关系的重要性。

我希望这会有所帮助。互联网和上面的链接提供了更多信息。考虑阅读一些Stanford's Material for CNNs以获取更复杂的神经网络的信息。