Keras:以两种不同的方式拟合ConvNets时结果不一致

时间:2018-03-02 11:48:05

标签: tensorflow machine-learning neural-network keras image-recognition

我正在尝试使用VGG16网络进行图像分类。我已经尝试了两种不同的方法,据我所知,它应该大致相当,但结果却大相径庭。

方法1:使用VGG16提取功能,并使用自定义完全连接的网络来配合这些功能。这是代码:

model = vgg16.VGG16(include_top=False, weights='imagenet',
                    input_shape=(imsize,imsize,3),
                    pooling='avg')
model_pred = keras.Sequential()
model_pred.add(keras.layers.Dense(1024, input_dim=512, activation='sigmoid'))
model_pred.add(keras.layers.Dropout(0.5))
model_pred.add(keras.layers.Dense(512, activation='sigmoid'))
model_pred.add(keras.layers.Dropout(0.5))
model_pred.add(keras.layers.Dense(num_categories, activation='sigmoid'))
model_pred.compile(loss=keras.losses.categorical_crossentropy,
                   optimizer=keras.optimizers.Adadelta(), metrics=['accuracy'])

(xtr, ytr) = tools.extract_features(model, 3000, imsize, datagen,
                                    rootdir + '/train',
                                    pickle_name = rootdir + '/testpredstrain.pickle')
(xv, yv) = tools.extract_features(model, 300, imsize, datagen,
                                  rootdir + '/valid1',
                                  pickle_name = rootdir + '/testpredsvalid.pickle')

model_pred.fit(xtr, ytr, epochs = 10, validation_data = (xv, yv), verbose=1)

(函数extract_features()只使用Keras ImageDataGenerator生成示例图像,并在对这些图像使用model.predict()后返回输出

方法2:在没有顶部的VGG16网络中,将所有卷积层设置为不可训练,并添加一些可训练的密集连接层。然后使用keras fit_generator()进行拟合。这是代码:

model2 = vgg16.VGG16(include_top=False, weights='imagenet',
                    input_shape=(imsize,imsize,3),
                    pooling='avg')
for ll in model2.layers:
    ll.trainable = False

out1 = keras.layers.Dense(1024, activation='softmax')(model2.layers[-1].output)
out1 = keras.layers.Dropout(0.4)(out1)
out1 = keras.layers.Dense(512, activation='softmax')(out1)
out1 = keras.layers.Dropout(0.4)(out1)
out1 = keras.layers.Dense(num_categories, activation='softmax')(out1)
model2 = keras.Model(inputs = model2.input, outputs = out1)
model2.compile(loss=keras.losses.categorical_crossentropy,
               optimizer=keras.optimizers.Adadelta(),
               metrics=['accuracy'])


model2.fit_generator(train_gen,
                     steps_per_epoch = 100,
                     epochs = 10,
                     validation_data = valid_gen,
                     validation_steps = 10)

两种方法中的时期,样本等的数量并不完全相同,但它们不需要注意不一致性:方法1仅在一个时期之后产生0.47的验证准确度并且变得高达0.7-0.8甚至更好,当我使用更多的样品来适应。然而,方法2在0.1-0.15的验证准确度下陷入困境,无论我训练多少,它都不会变得更好。

此外,方法2比方法1慢得多,即使在我看来它们应该大约一样快(考虑到在方法1中提取特征所花费的时间)。

1 个答案:

答案 0 :(得分:1)

使用第一种方法,您可以使用vgg16预训练模型一次提取功能,然后训练 - 在第二种方法中微调您的网络,您不断地将图像传递到每一层,包括vgg&#39 ; s层在每个时代。这会导致您的模型使用第二种方法运行得更慢。