在少于十层的网络中使用跳过连接是否有意义?

时间:2017-03-01 08:03:26

标签: deep-learning conv-neural-network resnet

我正在阅读ResNet论文中的跳过层连接,以及它们如何有益于培训非常深的网络。

在小于10层的较小(即AlexNet)网络中使用此类连接是否有意义?

1 个答案:

答案 0 :(得分:0)

不是真的,因为它们的主要目的是通过网络改善梯度流,这实际上在不增加参数数量的情况下增加了容量。但是,如果一个小型网络具有足够的容量用于您的用例,您实际上并不需要更多容量。