如何在神经网络中连接节点？

Question

我最近被介绍到神奇网络的神奇世界。我注意到他们惊人的灵活性和能力。但是，我不会撒谎，我对他们技术性的了解很少。感兴趣的网络是多层感知器。它由一些输入节点，一些隐藏节点和一些输出节点组成。但是，我想知道，是否需要将所有输入节点连接到所有隐藏节点，并且所有隐藏节点都需要连接到所有输出节点？或者是否有一些决定因素来决定哪些输入节点应该连接到哪些隐藏节点又连接到哪些输出节点？

非常感谢您的帮助：3

Answer 1

  

所有输入节点都需要连接到所有隐藏节点    隐藏节点需要连接到所有输出节点吗？

自Multi-Layer Perceptron (MLP) is a Fully Connected Network以来，一个图层中的每个节点都与某个权重W{i,y}连接到下一层中的每个节点。见下图。

  

还是有一些决定因素来决定哪些输入节点应该连接到哪些隐藏节点又连接到哪些输出节点？

您可以实现pruning methods删除一些连接，并观察它是否提高了神经网络的准确性和性能。通常，它是在训练您的神经网络模型后制作的，您可以看到性能。请参阅以下链接：

• A new pruning algorithm for neural network
• An iterative pruning algorithm for feedforward neural networks

也可以通过执行搜索来制作，换句话说，就是强力（在每个层之间移除和重新连接节点）。