Question

我遇到了pybrain的问题。我创建了一个简单的xor问题并使用pybrain来解决它而不使用偏差，然后使用一个简单的算法来获得从一个层到下一个层的所有权重。这里一切都很好，不需要知道哪个重量属于哪个连接。

当我尝试在VHDL中复制神经网络时出现问题。我已尝试在许多组合中使用权重，但未能以正确的顺序使用它们（我最初认为问题出在VHDL代码上，但后来我尝试手动执行相同操作，但最终结果相同）。

网络看起来像这样

  c1/5-   O   c9- 
O c2/6-   O  c10-  O
O c3/7-   O  c11- 
  c4/8-   O  c12- 
in|hidden|out

O是神经元，cN是连接

获得的权重如下：

in - ＆gt; hidden0 =＆gt; [-1.5370131 0.20571103 -0.55526946 2.24190836 1.25758021 0.0099828 3.41607776 3.60830287]

hidden0 - ＆gt;出 =＆gt; [1.18471773 -2.20053965 -2.60886924 3.70095397]

我试着用最明显的两种方式唱出来：

    First combo|  Second combo

c1 -> -1.537     |     -1.53

c2 -> 0.206      |     1.257

c3 -> -0.555     |     0.205

c4 -> 2,242      |     0.0099

c5 -> 1.257      |     -0.555

c6 -> 0.0099     |     3.416

c7 -> 3.416      |     2.242

c8 -> 3.608      |     3.608

c9 -> 1.185      |     1.185

c10 -> -2.2      |     -2.2

c11 -> -2.609    |     -2.609

c12 -> 3.7       |     3.7

对于两个组合，我得到大致相同的结果~0.5。这意味着我使用权重的方式或我正在进行数学运算的方式完全出错了。

我正在通过以下方式进行数学计算：

in -> hidden

suppose input "11"

1 * c1 + 1 * c2 = RES

output = sigmoid(RES)

1 * c3 + 1 * c4 = RES2

output2 = sigmoid(RES2)

and so on

hidden -> out

output * c9 = RES9

final = sigmoid(RES9)

output2 * c10 = RES10

final = sigmoid (RES10)

and so on

现在想象一下我也试过了其他组合。上述组合是c1-c2，另一种组合是c1-c5

我实现了我在VHDL中所做的相同的事情，结果与我手动获得的结果相同。

我需要正确的权重顺序才能验证我的VHDL代码。我知道这应该有效，因为运行pybrain得到的结果是：

[1,0] [0.95923448]

[0,1] [0.95626049]

[0,0] [0.03813141]

[1,1] [0.05266151]

PS：我使用的xor是在link中获得的xor。我只修改了隐藏层中的神经元数量，将偏差修改为False并使用hiddenclass = SigmoidLayer。获得权重所获得的代码可以是以下2：

第一个代码

for c in [connection for connections in net.connections.values() for connection in connections]:
print("{} -> {} => {}".format(c.inmod.name, c.outmod.name, c.params))

第二个代码

for mod in net.modules:
    print("Module:", mod.name)
    if mod.paramdim > 0:
        print("--parameters:", mod.params)
    for conn in net.connections[mod]:
        print("-connection to", conn.outmod.name)
        if conn.paramdim > 0:
             print("- parameters", conn.params)
    if hasattr(net, "recurrentConns"):
        print("Recurrent connections")
        for conn in net.recurrentConns:
            print("-", conn.inmod.name, " to", conn.outmod.name)
            if conn.paramdim > 0:
                print("- parameters", conn.params)

这两个片段都是从stackoverflow问题中获得的。如果你想我可以找到它们并在这里发布链接。

Answer 1

好的，我找到了我想要的答案。

重量是并排的（c1-c2）。这意味着正确的权重是：

c1 -> -1.537

c2 -> 0.206

c3 -> -0.555

c4 -> 2,242

c5 -> 1.257

c6 -> 0.0099

c7 -> 3.416

c8 -> 3.608

c9 -> 1.185

c10 -> -2.2

c11 -> -2.609

c12 -> 3.7

要获得正确的权重顺序，请执行以下操作：

for c in [connection for connections in net.connections.values() for connection in connections]:
        print("{} -> {} => {}".format(c.inmod.name, c.outmod.name, c.params))
        print("org {}", reshape(c.params, (c.outdim, c.indim)))

获取数据的代码是： 重塑（c.params，（c.outdim，c.indim）） 其中“c”是与神经元的连接。

权重如下：

[[-1.537   0.206],
 [-0.555   2.242],
 [1.257    0.0099],
 [3.416    3.608]]

和

 [[1.185],
  [-2.2],
  [-2.609], 
  [3.7]]

每一行都是与神经元的连接。

例如：

Suppose input = "10"
1 * -1.537 + 0 * 0.206 
and then goes to the sigmoid function
and so on

我已经尝试了这个，但是没有用，因为我做错了，这是有道理的。当您创建一个新的网络时，有一些参数可以传递给它，hiddenclass和outclass是其中的一些。我将hiddenclass设置为SigmoidLayer，但我没有初始化outclass，它使用默认值LinearLayer初始化。这意味着当我在VHDL中实现代码时以及通过手动计算来测试它时，我正在做一个额外的sigmoid函数。

如果你有超过2个输入连接到隐藏层，假设为4，它将如下所示：

[[c1 c2 c3],
 [c4 c5 c6],
 [c7 c8 c9]]

等等。

祝所有未来需要这件事的人好运

Pybrain - 哪个权重属于哪个连接？

1 个答案: