子采样层和卷积层之间的差异（卷积神经网络）

Question

有人可以解释卷积和子采样层之间的区别吗？

是否正确，在卷积步骤中我们定义卷积滤波器及其权重，而在二次采样步骤中，我们应用卷积滤波器并使用大步前进并集中力量？

Answer 1

主要区别在于，卷积是一种旨在从输入中提取特征的运算，而子采样的目的只是为了减小输入的尺寸。在标准CNN中，卷积层具有可训练的参数，这些参数在训练过程中进行了调整，而子采样层是恒定的操作（通常由最大池化层执行）。在CNN中，这种最大池化通常有助于为模型添加一些空间不变性。

我认为您的最后一段不是查看它的正确方法。

卷积：您有一个特定大小的过滤器。输出是此滤波器与输入的不同区域（大小相似）的按元素乘积。 您可以使用卷积滤波器的跨度来对输入进行子采样。 例如：

对于使用相同大小的滤镜的7x7输入，在跨度为1像素的第一幅图像中，我们得到5x5的输出，而在第二幅图像中为2像素的跨度，我们得到的输出为3x3。因此从技术上讲，我们将二次采样作为卷积层的一部分，但是二次采样是不可训练的（步幅大小是恒定的）。

通常，在谈论子采样层时（这可能是您发布的图像中的情况），其含义是最大池化层，与卷积类似，也具有过滤器和跨度一些大小。但是，没有可训练的权重（输出只是每个区域的最大像素）：

一种罕见的情况是此子采样层使用平均池化层。