TensorFlow 和 PyTorch 中的 Conv2D 填充

Question

我正在尝试将 TensorFlow 模型转换为 PyTorch，但在处理 padding 时遇到问题。我的相关平台代码如下：

TensorFlow

conv1 = tf.layers.conv2d(
                inputs=input_layer,
                filters=32,
                kernel_size=[5, 5],
                padding="same",
                activation=tf.nn.relu,
                name = "conv1")

PyTorch

conv1 = nn.Conv2d(1, 32, kernel_size=5, stride=1, padding=2)

我有几个问题：

1. 以上代码是否等效？
2. 如果我们在 padding 中使用 same 填充，会在左/右/上/下添加多少个 tensorflow？
3. 如果我们在 padding 中使用 padding=2，会在左/右/上/下添加多少个 pytorch？
4. 如果以上两个代码片段不等价，那么我们如何制作相同的 conv 层？

提前致谢。

Answer 1

回答您的问题：

Pytorch 没有 padding = 'same' 的原因很简单，是因为它的动态计算图与 Tensorflow 静态图相比。

1. 由于使用了不同的填充，因此两个代码并不等效。

2. 'Same' padding 尝试在左侧和右侧均匀填充，但如果要添加的列数为奇数，则会在右侧添加额外的列。

3. Pytorch 中的“Padding = 2”在任一侧应用 2 个隐式填充。

4. Pytorch 1.9 为 un-strided 或 stride = 1 卷积添加了 padding = 'same'。这将适用于您的用例。

但是对于stride > 2 padding需要手动添加。

这是执行“相同”填充的良好实现：-

https://github.com/rwightman/pytorch-image-models/blob/master/timm/models/layers/padding.py#L28