我正在尝试实现简单的NEAT。我从各种来源了解到,“节点”有4种类型:输入神经元,隐藏神经元,输出神经元和所谓的偏向神经元。我看不到哪个过程可能产生偏见神经元,第16页的this paper中对此进行了描述。
我了解到,在突变时可能会创建新的神经元,但它需要两个神经元之间存在现有连接,该连接将由该新神经元分裂(基于paper already mentioned,第10页)。但是,偏置神经元没有“输入”连接,因此显然无法以上述方式创建。那么,NEAT如何产生偏见神经元呢?
答案 0 :(得分:1)
在NEAT上下文中,偏向神经元(节点)仅仅是一直活跃的特殊输入神经元。它总是包含在构造中,因为它在许多情况下似乎有助于进化。
因此,简而言之,您不会像创建新的输入或输出节点那样创建偏差网络。这些是由您的问题决定的。
您是正确的,因为标准NEAT实现通过拆分现有连接引入了新的隐藏节点。隐藏的节点是您将在NEAT中创建或破坏的唯一神经元(据我所知,通常是在神经进化中)。