在对同一数据集进行训练后，你能对两个完全相同的神经网络说些什么呢？

Question

假设您有两个卷积神经网络implemented in matlab并由这些层组成：

• imageInputLayer
• ConvolutionalLayer
• maxPoolinglayer
• relulayer
• softmaxlayer
• fullyconnectedlayer
• 分类层

这两个网络都具有完全相同的架构。 我对具有相同超参数的2个网络应用相同的训练方法。 这两个网络在其相应的层中具有完全相同的权重。

也就是说，这两个网络都是彼此的复制品。

这两个网络都是使用完全相同的训练集和验证集进行训练而不是随机播放。

我想知道：

• 两者的分数（训练误差和验证错误）和训练的权重是否会不同？
• 是否取决于培训方法？

Answer 1

简而言之：两者都是 - 因为初始权重通常是使用随机数启动的。

不那么简短：神经网络只是一种算法，如果路上任何功能都没有引入噪声（即随机性），2网络最终会完全相同。