神经网络“育种”

Question

我刚刚观看了一个关于“Polyworld”（发现here）的Google技术谈话视频，他们谈到将两个神经网络一起培育成后代。我的问题是，如何组合两个神经网络？它们看起来如此不同，任何组合它们的尝试都只会构成第三个完全不相关的网络。也许我错过了一些东西，但我没有看到一个很好的方法来采取两个独立的神经网络的积极方面，并将它们组合成一个单一的神经网络。如果有人能详细说明这个过程，我会很感激。

Answer 1

Answer 2

他们不会真正培养两个神经网络。据推测，他们有各种遗传算法，在给定特定的“基因”序列的情况下产生特定的神经网络结构。他们将从一群基因序列开始，产生其特有的神经网络，然后将这些网络中的每一个暴露于相同的训练方案。据推测，这些网络中的一些将比其他网络更好地响应训练（即，它们将更容易“训练”以实现期望的行为）。然后，他们将采用产生最佳“受训者”的基因序列，将它们相互杂交，产生其特有的神经网络，然后将其暴露于相同的训练方案。据推测，第二代中的一些神经网络比第一代神经网络更容易训练。这些将成为第三代的父母，依此类推。

Answer 3

在这种情况下，神经网络（可能）不是任意树。它们可能是具有恒定结构的网络，即相同的节点和连接，因此“繁殖”它们将涉及“平均”节点的权重。您可以平均两个相应网络中每对节点的权重，以生成“后代”网络。或者你可以使用一个更复杂的功能，依赖于更多的相邻节点 - 可能性很大。 如果关于固定结构的假设是错误的或无根据的，我的答案是不完整的。