据我所知,完全连接层(简称fc)用于预测。
例如,VGG Net使用了2个fc图层,它们都是4096维。 softmax的最后一层具有与num:1000类相同的维度。
但对于resnet,它使用了全局平均池,并使用最后一个卷积层的池化结果作为输入。
但他们仍然有一个fc层!这层是真的fc层吗?或者这个图层只是输入一个数字是类号的特征向量?该图层是否具有预测结果的功能?
总之,有多少fc层可以重新网络和VGGnet? VGGnet的第1个第2个第3个fc层有不同的功能吗?
答案 0 :(得分:2)
从本质上讲,微软(ResNet)的人员更喜欢卷积层而不是完全连接层,因此省略了完全连接的层。 GlobalAveragePooling还显着减小了特征尺寸,因此减少了从卷积部分到完全连接部分的参数数量。
我认为性能差异非常小,但是通过引入ResNets,他们的主要成就之一是参数的显着减少,这两点帮助他们实现了这一目标。
答案 1 :(得分:1)
VGG有三个FC层,两个有4096个神经元,一个有1000个神经元,输出类概率。
ResNet只有一个带有1000个神经元的FC层,它们再次输出类概率。在NN分类器中,最好的选择是使用softmax,有些作者在图中明确表示,而其他作者则没有。