当在Keras中通过ResNet50进行转移学习时,损失总是变为纳米

时间:2018-06-04 09:53:01

标签: python tensorflow neural-network keras generator

我正在使用转移学习在ResNet50中通过Keras模型训练图像分类器并加载预训练的权重,但loss最初转到nan并立即acc保持随机水平。

实际上,我不知道出了什么问题,因为我已经使用这个模型成功地训练了一个分类器,虽然它没有高acc但它运作良好。这次失败了。

我调了lr但没有发生任何事情。有人说数据可能有问题,所以我改变了数据,只发现不同的图像,同一个模型会显示不同的结果(也就是说,一些数据/图像效果很好,另一个数据/图像会产生{{1}即刻)。怎么会这样?我真的很困惑,无法弄清楚我的图像有什么问题。

数据集:8个类,每个类包含大约300个图像。

以下是所有代码:

loss:nan

,运行输出为:

import keras
import h5py
import numpy as np
import matplotlib.pyplot as plt

from keras.applications import ResNet50
from keras.models import Sequential
from keras.layers import Dense, Flatten, GlobalAveragePooling2D
from keras.applications.resnet50 import preprocess_input
from keras.preprocessing.image import ImageDataGenerator


data_generator = ImageDataGenerator(preprocessing_function= preprocess_input, 
                        rescale = 1./255)

train_generator = data_generator.flow_from_directory("image/train", 
                        target_size = (100, 100), 
                        batch_size = 32, 
                        class_mode = "categorical")
dev_generator = data_generator.flow_from_directory("image/dev", 
                        target_size = (100, 100), 
                        batch_size = 32, 
                        class_mode = "categorical")

num_classes = 8
model = Sequential()
model.add(ResNet50(include_top = False, pooling = "avg", weights= "resnet50_weights_tf_dim_ordering_tf_kernels_notop.h5"))
model.add(Dense(num_classes, activation = "softmax"))
model.layers[0].trainable = False

model.compile(optimizer= "adam", loss= "categorical_crossentropy", metrics=["accuracy"])

model.fit_generator(train_generator, steps_per_epoch= 1, epochs = 1)

1 个答案:

答案 0 :(得分:0)

首先纠正“image/dev”"image/dev"

我认为你的错误就在于这一行:

data_generator = ImageDataGenerator(preprocessing_function= preprocess_input, rescale = 1./255)

在同时使用preprocess_input功能和rescale = 1./255时,您可以对数据进行双倍缩放。尝试删除重新缩放...

data_generator = ImageDataGenerator(preprocessing_function= preprocess_input)