我的任务是在工厂学习有缺陷的物品。这意味着,我尝试检测有缺陷的商品或优质商品。这导致了一个问题,其中一类占主导地位(一类占数据的99.7%),因为缺陷品非常少见。训练精度为0.9971,验证精度为0.9970。听起来很棒。 但是问题是,该模型仅预测一切都是0级,这是优良产品。这意味着,它无法对任何有缺陷的货物进行分类。 我怎么解决这个问题?我检查了其他问题并进行了尝试,但是仍然有这种情况。总数据点为122400行和5个要素。
最后,我的测试集混淆矩阵是这样的
array([[30508, 0],
[ 92, 0]], dtype=int64)
做得很糟糕。
我的代码如下:
le = LabelEncoder()
y = le.fit_transform(y)
ohe = OneHotEncoder(sparse=False)
y = y.reshape(-1,1)
y = ohe.fit_transform(y)
scaler = StandardScaler()
x = scaler.fit_transform(x)
x_train, x_test, y_train, y_test = train_test_split(x,y,test_size = 0.25, random_state = 777)
#DNN Modelling
epochs = 15
batch_size =128
Learning_rate_optimizer = 0.001
model = Sequential()
model.add(Dense(5,
kernel_initializer='glorot_uniform',
activation='relu',
input_shape=(5,)))
model.add(Dense(5,
kernel_initializer='glorot_uniform',
activation='relu'))
model.add(Dense(8,
kernel_initializer='glorot_uniform',
activation='relu'))
model.add(Dense(2,
kernel_initializer='glorot_uniform',
activation='softmax'))
model.compile(loss='binary_crossentropy',
optimizer=Adam(lr = Learning_rate_optimizer),
metrics=['accuracy'])
history = model.fit(x_train, y_train,
batch_size=batch_size,
epochs=epochs,
verbose=1,
validation_data=(x_test, y_test))
y_pred = model.predict(x_test)
confusion_matrix(y_test.argmax(axis=1), y_pred.argmax(axis=1))
谢谢
答案 0 :(得分:3)
听起来您的数据集高度不平衡,该模型仅在学习如何对优质商品进行分类。 您可以尝试以下列出的方法之一: https://machinelearningmastery.com/tactics-to-combat-imbalanced-classes-in-your-machine-learning-dataset/