Question

我正在使用CNN来识别CiFar10数据集中的图像，并且在添加滤镜之前，cnn的准确性达到了58％，但添加后下降到了52％。网络是否过度拟合？因为我怀疑情况就是如此。在添加了两个遗漏后，准确性提高了55％，但是我仍然困惑为什么它会首先下降。这是我的代码：

class Net(nn.Module):
def __init__(self):
    super(Net, self).__init__()
    self.conv1 = nn.Conv2d(3, 12, 3, padding=1)
    self.pool = nn.MaxPool2d(2, 2)
    self.conv2 = nn.Conv2d(12, 24, 3, padding=1)
    self.conv3 = nn.Conv2d(24, 48, 3, padding=1)
    self.conv4 = nn.Conv2d(48, 48, 3, padding=1)
    self.dropout1 = nn.Dropout(p=0.2)
    self.dropout2 = nn.Dropout(p=0.2)
    self.dropout3 = nn.Dropout(p=0.3)
    self.fc1 = nn.Linear(48 * 2 * 2, 120)
    self.fc2 = nn.Linear(120, 84)
    self.fc3 = nn.Linear(84, 10)


def forward(self, x):
    x = self.pool(self.dropout1(F.relu(self.conv1(x))))
    x = self.pool(self.dropout2(F.relu(self.conv2(x))))
    x = self.pool(self.dropout3(F.relu(self.conv3(x))))
    x = self.pool(F.relu(self.conv4(x)))
    x = x.view(-1, 48 * 2 * 2)
    x = F.relu(self.fc1(x))
    x = F.relu(self.fc2(x))
    x = self.fc3(x)
    return x

Answer 1

如果您要进行训练并从头开始初始化，则还需要注意比较跑步。随机权重初始化有时会产生您所看到的变化，尤其是在其他超参数（例如学习率，批处理大小等）尚未优化的情况下。即使这样，批次混洗也可能导致变化。在调试所有这些代码时，您应该设置随机种子和/或保存权重参数。

添加辍学后，为什么CNN程序的准确性没有提高？

1 个答案: