比较两个神经网络（在Matlab中的nntool）

Question

我是Matlab中神经网络工具箱（nntool）的新手。我使用相同的数据集训练了两个网络。这些网络中的一个包含比另一个更多的神经元。

现在我想知道：如何比较这些网络？我怎么说网络A比网络B好？

我的测试集中是否存在正确分类的模式数量？让我们说两个网络都显示了相同的测试集，网络A正确地分类了更多模式。我可以说网络A（通常）比网络B更好吗？

或者我应该根据我的表演功能看一下表演吗？

是否还有其他措施来比较使用不同参数训练的两个网络？

Answer 1

这主要取决于你的关注点。正如我所看到的，在大多数情况下，分析预测的标签或网络的准确性可以导致良好的取件决定，特别是当您的网络具有浅层架构时，但是当您决定使用时，有些侧面问题可能会变得更加重要。用更宽的眼睛看网。

• 例如，在训练阶段，甚至将一个隐藏单元添加到第一个隐藏层会出现将 d （输入图层的尺寸）自由参数（权重）插入到模型中的应该是估计。另一方面，您的模型具有更多自由参数，需要更多的训练数据来提供可靠的模型。因此，只要您有足够的数据来补偿增加的自由参数，就可以接受更大的网络。根据经验，插入更多自由参数会增加过度拟合的可能性，这已成为深度神经网络中的一个重要问题，并且已经做出许多努力来解决它。
• 另一个在浅网中不太重要的情况是额外隐藏节点所带来的计算成本。由于我们睁大眼睛，所以提到这个问题是有必要的。在您的网络更深入的情况下，这种计算成本变得更具挑战性。当您使用反向传播来更新参数时，训练阶段的计算成本也是一个重要问题。
• 您可能主要在深度神经网络中看到的另一件事是内存要求。随着层数或神经元数量的增加，自由参数的数量急剧增加，因此在深层网络中，您可能会看到数百万个参数。显然，加载此数量的参数会要求足够的硬件要求。

希望它有所帮助。