Keras CNN,高训练而低测试

时间:2021-03-17 18:36:44

标签: python keras deep-learning

我在做文本分类,我的数据集大小是 16000 KB,我的问题是我有 95% 的训练和 90% 的测试......我可以增加测试吗?以及如何?

这是我的代码

model = Sequential()
model.add(Conv1D( filters=256,kernel_size=5, activation = 'relu',input_shape=(7,1)))
model.add(layers.GlobalMaxPooling1D())
model.add(layers.Dense(128, activation='relu'))

model.add(layers.Dense(64, activation='relu'))

model.add(layers.Dense(64, activation='relu'))
model.add(layers.Dense(64, activation='relu'))

model.add(Dense(11, activation='softmax'))
model.summary()
model.compile(Adam(lr=0.001),
              loss='sparse_categorical_crossentropy',
              metrics=['accuracy'])
history = model.fit(X_train, y_train,
                    epochs=200,
                    verbose=True,
                    validation_data=(X_test, y_test),
                    batch_size=128)
loss, accuracy = model.evaluate(X_train, y_train, verbose=True)
print("Training Accuracy: {:.4f}".format(accuracy))
loss, accuracy = model.evaluate(X_test, y_test, verbose=False)
print("Testing Accuracy:  {:.4f}".format(accuracy))

1 个答案:

答案 0 :(得分:0)

调试模型的第一步是像示例一样绘制训练验证曲线。

Typical training validation curve

现在根据曲线的行为,可以有以下可能的推论和解决方案。

  1. 两条曲线随着模型的训练而发散,训练不断改进,而测试要么变得更糟,要么比训练更早饱和。

    原因:模型过度拟合训练,需要正则化,例如。辍学、权重衰减等

  2. 两条曲线最后贴在一起,没有进一步的改进。

    原因:模型饱和或卡在局部最小值,尝试提高学习率以推出最小值,如果仍然没有大的改进,尝试增加模型的复杂度。

  3. 两条曲线在末端已经饱和,但相距很小,并且随着进一步训练没有发生重大变化。

    原因:模型已经从可用数据中学到了它可以做的事情并且不会进一步改进,尝试数据转换以生成新数据或获取更多数据。