神经网络中神经元的进化

Question

我最近开始对AI，神经网络和GA特别感兴趣，我想构建一个小型AI来处理问题。 我研究了这个主题，我认为我对非增长神经网络如何工作以及它们的权重如何发展有了足够的理解，但是我找不到关于如何确定网络是否需要生成新神经元的解释，以及我应该从多少开始等等。

P.S。 我是一名计算机科学专业的学生，​​也是职业的程序员，所以我对算法和图表有很好的理解，但我还没有学习AI。

Answer 1

遗传算法没有确定＆＃39;如果应该添加或删除神经元，它会随机发生，当它产生积极影响时，它会留在后代 - 适者生存。

NEAT论文从一个只有输入节点和输出节点的网络开始。然后它会发展越来越多的节点和连接，但是随机（mutationRate）机会！

Read about it here

我已将其实现为javascript，因此如果您想了解网络如何演变为XOR门，请检查this。

Answer 2

启动神经元数定义很难。科学家通常使用直觉或gentic algoritm describeet upper来区分它。如果您使用第一个选项并且网络不能正常工作： 1.（太多的神经元，网络快速学习学习的例子，但有同心问题的问题）建立新的小网络并学习它。 2.（太小的神经元，网络有很大的错误，这可以在学习期间减小）尝试添加新的神经元，现有的网络具有较小的权重和连续（连接像其他人）或建立新的更大的网络并开始新的lerning。您也可以尝试添加新图层。

输入 leyer 1＆gt; leyer 2＆gt; l 3 ...

输出leyer可能是个例外。 全部使用连接 在文献中，我们通常会重新评估3层，但我的实验告诉4层有更好的推广。