使用 ImageDataGenerator 时,Keras model.evaluate 准确率停留在 50%

时间:2021-02-01 15:31:17

标签: python tensorflow machine-learning keras

我正在尝试使用 model.evaluate 查找我保存的 Keras 模型的准确性。

我已经使用这个加载了我的模型:

model = keras.models.load_model("../input/modelpred/2_convPerSection_4_sections")

我有一个包含两列的 CSV 文件,一列用于图像的文件名,另一列用于标签。这是一个示例:

id,label
95d04f434d05c1565abdd1cbf250499920ae8ecf.tif,0
169d0a4a1dbd477f9c1a00cd090eff28ac9ef2c1.tif,0
51cb2710ab9a05569bbdedd838293c37748772db.tif,1
4bbb675f8fde60e7f23b3354ee8df223d952c83c.tif,1
667a242a7a02095f25e0833d83062e8d14a897cd.tif,0

我已将此 CSV 加载到 Pandas 数据框中并将其输入到 ImageDataGenerator 中:

df = pd.read_csv("../input/cancercsv/df_test.csv", dtype=object)

test_path = "../input/histopathologic-cancer-detection/train"

test_data_generator = ImageDataGenerator(rescale=1./255).flow_from_dataframe(dataframe = df,
                                                                                  directory=test_path,
                                                                                  x_col = "id",
                                                                                  y_col = "label",
                                                                                  target_size=(96,96),
                                                                                  batch_size=16,
                                                                                  shuffle=False)

现在我尝试使用以下方法评估我的模型:

val = model.evaluate(test_data_generator, verbose = 1)
print(val)

然而,准确率并没有从 50% 改变,但是,我的模型在训练时的验证准确率是 90%。

这是返回的内容:

163/625 [======>.......................] - ETA: 21s - loss: 1.1644 - accuracy: 0.5000

通过使用 matplotlib 和 scikit-learn 创建 ROC 曲线,我能够确保我的模型工作并且生成器正确地提供数据,这产生了 90% 的 AUC,所以我不确定问题出在哪里:

predictions = model.predict_generator(test_data_generator, steps=len(test_data_generator), verbose = 1)
false_positive_rate, true_positive_rate, threshold = roc_curve(test_data_generator.classes, np.round(predictions))
area_under_curve = auc(false_positive_rate, true_positive_rate)

plt.plot([0, 1], [0, 1], 'k--')
plt.plot(false_positive_rate, true_positive_rate, label='AUC = {:.3f}'.format(area_under_curve))
plt.xlabel('False positive rate')
plt.ylabel('True positive rate')
plt.title('ROC curve')
plt.legend(loc='best')
plt.show()

类似的问题说问题出在将 ImageDataGenerator 中的 shuffle 参数设置为 True,但我的一直设置为 False。另一个类似的问题是通过使用 sigmoid 激活而不是 softmax 重新训练来解决的,但是我在最后一层使用了 sigmoid,所以这不是问题

这是我第一次使用 Keras。我做错了什么?

1 个答案:

答案 0 :(得分:1)

问题是因为流函数中的 class_mode 参数。默认值为 categorical

将其设置为 binary 解决了问题。更正代码:

test_data_generator = ImageDataGenerator(rescale=1./255).flow_from_dataframe(dataframe = df,
                                                                                  directory=test_path,
                                                                                  x_col = "id",
                                                                                  y_col = "label",
                                                                                 class_mode = 'binary',
                                                                                  target_size=(96,96),
                                                                                  batch_size=16,
                                                                                  shuffle=False)