澄清感知器的偏见

时间:2014-10-16 08:05:39

标签: neural-network perceptron bias-neuron

如果不存在偏差,通过原点的线应该能够线性分离两个数据集吗?

但是这里最受欢迎的答案 - >> question

y                             
^                              
|  - + \\  +                   
| -    +\\ +   +               
| - -    \\ +                  
| -  -  + \\  +                
---------------------> x       
    stuck like this            

我很困惑。你是说上图中的原点是在x轴和y轴中间的某个位置吗?有人可以帮助我澄清一下吗?

2 个答案:

答案 0 :(得分:6)

好吧,也许original ASCII graph并非100%准确!让我试着再次描绘一下:

            y                                    y
            ^                                    ^
   - + \\   | +                       -\\+       | +
 -     +\\  | +   +                 -   \\ +     | +   +
 - -     \\ |  +                    - -  \\      |  +
 -  -   + \\|    +                  -  -  \\+    |    +
------------------------> x        ---------------------------> x
    - -     |\\    +                   - - \\    |      +
 -   -    + | \\ +                  -   -   \\ + |    +
  -    - -  |  \\  + +               -    - -\\  |      + +
 -- -    -  |  +\\     ++           -- -    - \\ |  +       ++

     stuck like this                  needs to get like this
          y = ax                            y = ax + b
     (w0*x + w1*y = 0)               (w0*x + w1*y + w2*1 = 0)

答案 1 :(得分:1)

我认为你的直觉在这个问题上是正确的:

  

你的意思是上图中的原点是在x轴和y轴中间的某个位置吗?

在阅读图表时,是的。

我认为ASCII图虽然很酷,但这里有点令人困惑,因为它显示的行穿过通常被认为是原点的行。通常人们会想到x轴和y轴线的交点作为原点,但在该图中,分离线显然没有通过所述交叉点。正如您所指出的那样,没有偏置项的感知器只能定义穿过原点的分离线,因此ASCII图必须具有某种奇怪的原点,这些原点在某个地方的空间中漂浮。

另外,请注意标准感知器始终定义线性分隔符,但不保证线性分隔符能够正确分区给定数据集 - 这完全取决于数据集。还有感知器的变体使用"内核技巧"定义非线性分隔符,但这是一个完全不同的故事。 :)

希望有所帮助。