Hebbian学习解释

时间:2016-12-22 04:50:12

标签: neural-network

http://www.cs.bham.ac.uk/~jxb/INC/l5.pdf

  

神经心理学家唐纳德·赫伯在1949年假设生物学如何   神经元学习:

     

“当细胞A的轴突足够接近细胞B和细胞时   反复或持续地参与解雇,一些增长   过程或代谢变化发生在一个或两个细胞上   A作为燃烧B的细胞之一的效率提高了。“

     

在更熟悉的术语中,可以称为Hebbian   学习规则:

     

如果突触(连接)两侧的两个神经元被激活   同时(即同步),然后突触的强度   有选择地增加。

     

在数学上,我们可以将Hebbian学习描述为:

     

enter image description here

     

这里,η是学习率系数,x是输出   ith和jth元素。

现在,我的问题是,所有这些描述意味着什么?

  1. Hebbian学习是否适用于单神经元网络?
  2. “突触两侧的两个神经元”是什么意思?
  3. 为什么/何时两个神经元会同时激活?
  4. elements是什么意思?他们是神经元还是别的什么?
  5. 你能举个例子吗?

1 个答案:

答案 0 :(得分:1)

你有两个神经元与突触相连。在这个例子中,我们假设当加权输入越过阈值时神经元激活仅为0或1.1,而当不加权输入时为0。第一个神经元激活1,当第二个神经元激活时,突触增加,因为第一个神经元的激活引起第二个神经元的激活。

当第二个神经元激活并且第一个没有时,突触将保持相同/减少,因为第二个神经元的激活与第一个神经元无关。

这可以通过喂养狗的着名例子来证明。当主人敲响钟声时,他给了他的狗食物。他这样做了一段时间,当主人响铃,狗预期食物,所以狗关联这两个事件钟和食物。

Change of synapse

这不能与单个神经网络一起使用。