了解卷积神经网络中的权重共享

时间:2017-05-09 01:47:29

标签: conv-neural-network convolution backpropagation

我目前正在尝试了解卷积神经网络中实际的重量分配。

从我能读到的是CNN首次介绍,作为减少连接输入和输出所需的连接数量的方法,因为输入有3个维度。

遵循这个逻辑,我认为卷积减少了其中一个维度,并将复杂的图像连接到输出神经元。

连接复杂图像和输出的重量是否是未共享的重量?如果没有,那么没有共享的权重是什么?。

或者,如果是反向传播,则将其视为一个权重,并将其更新为一个单位?

我认为体重分享的例证:

1 个答案:

答案 0 :(得分:0)

CNN有多个层次。权重共享发生在特定层中的神经元(过滤器)的感受域中。权重是每个过滤器内的数字。所以基本上我们正在尝试学习过滤器。这些滤镜作用于图像的某个感受野/小部分。当滤镜移过图像时,滤镜不会改变。这个想法是,如果边缘对于在图像的特定部分中学习很重要,那么它在图像的其他部分也很重要。