在CNN中组合多个内核大小

Question

有没有办法将来自使用多个内核大小的卷积层的输出结合起来（比如最大值或平均值）？例如，如果我使用（2 * 2），（3 * 2），（2 * 3）的内核大小而不是仅使用1个大小（2 * 3）的内核，并在下一层中取平均值或最大值所有这些值的输出？

Answer 1

内核大小在这里并不重要，重要的是每个卷积操作的输出大小是多少。如果只调整填充，步幅等，以确保每个转换操作输出相同的形状（最多为批量和通道尺寸），您可以通过通道连接，并聚合（总和，平均）或继续更多的渠道。

这种方法已经使用了很长时间，例如在旧的，众所周知的初始网络中

Answer 2

• 卷积滤镜对所有作为输入接收的要素图进行操作
• 每个卷积滤波器的输出是单个特征映射。
• 应用填充时，输出维度相同。然后卷积滤波器的大小无关紧要。

然后，过滤器可以加入＆＃34;在几个方面：

• Concatenation输出要素图。肯定是最常见的一个。
• Summation用于Resnets
• Others喜欢乘法。但我认为可以说他们都使用连接和其后的操作。