制作多层感知器的训练实例

时间:2017-01-27 04:30:48

标签: machine-learning neural-network perceptron multi-layer activation-function

我正在尝试制作几个训练示例,以便为特定网络获得一组权重和偏差,从而正确实现硬阈值激活功能。

  
      
  • 四个输入x_1,... x_4,其中x_i是实数,如果x_1

  •   
  • 硬阈值激活功能;

  •   

f(z)= 1(如果z> = 0)或0(如果z <0)

h1 = x1w11 + x2w12 + x3w13 + x4w14 + b11

h2 = x1w21 + x2w22 + x3w23 + x4w24 + b21

h3 = x1w31 + x2w32 + x3w33 + x4w34 + b31

y = w1h1 + h2w2 + h3w3 + b (*Actually h1, h2, h3 are f(h1),f(h2),f(h3) because of activation function)
  

而且,f(y)。

我猜训练的例子应该是

  

( - 2,-1,0,1) - &gt;输出1,(0,0,0,0) - &gt;输出0,(0,0,0,1) - &gt;输出0,   (1,2,3,4) - &gt;输出1。

..等等。 但输入领域过于宽泛,无法构建使用多层感知算法的具体示例。

您能否帮助我找到应用algorithm的正确示例?

1 个答案:

答案 0 :(得分:1)

不,它不是广泛的,你可以只关注每个x_i的[0,1]范围,因为在任何情况下你需要标准化数据来训练神经网络。

所以基本上你可以在[0,1]范围内生成均匀分布的随机数,检查它们是否已经排序,并相应地生成标签。然后你重复说10K或100K然后你有一个数据集来训练MLP。您还可以使用所选步骤对[0,1]范围进行离散化以生成数字。