Caffe：这两个网络有什么区别？

Question

我很想知道网络1和2有什么区别？他们都有转换16个过滤器。

问：1和2中的16个学习过滤器是否不同？为什么？每个的优点/缺点？

Answer 1

假设

• 权重是相同的（conv16的in_c x16x3x3内核被分成两个in_c x8x3x3内核，每个内容对应一个conv8层），
• 否"Dropout"

然后两个网络计算相同的输出。但是，我怀疑第一个选项效率更高（仅计算im2col一次，不需要复制/移动数据等等）。

然而，在考虑"Dropout"时，两个替代方案不再相同，因为对于所有16个经过训练的滤波器，conv16的丢失模式相同，两个conv8看到不同的丢失模式在培训期间，因此可能会学习不同的内核。