Question

我最近开始使用机器学习，我正在学习CNN，我计划在Keras blog和github repo的帮助下编写一个Car Damage严重性检测应用程序。

这是汽车数据集的样子：

F:\WORKSPACE\ML\CAR_DAMAGE_DETECTOR\DATASET\DATA3A
├───training (979 Images for all 3 categories of training set)
│   ├───01-minor
│   ├───02-moderate
│   └───03-severe
└───validation (171 Images for all 3 categories of validation set)
    ├───01-minor
    ├───02-moderate
    └───03-severe

以下代码只给我32％的准确度。

from keras.preprocessing.image import ImageDataGenerator
from keras.models import Sequential
from keras.layers import Conv2D, MaxPooling2D
from keras.layers import Activation, Dropout, Flatten, Dense
from keras import backend as K


# dimensions of our images.
img_width, img_height = 150, 150

train_data_dir = 'dataset/data3a/training'
validation_data_dir = 'dataset/data3a/validation'
nb_train_samples = 979
nb_validation_samples = 171
epochs = 10
batch_size = 16

if K.image_data_format() == 'channels_first':
    input_shape = (3, img_width, img_height)
else:
    input_shape = (img_width, img_height, 3)

model = Sequential()
model.add(Conv2D(32, (3, 3), input_shape=input_shape))
model.add(Activation('relu'))
model.add(MaxPooling2D(pool_size=(2, 2)))

model.add(Conv2D(32, (3, 3)))
model.add(Activation('relu'))
model.add(MaxPooling2D(pool_size=(2, 2)))

model.add(Conv2D(64, (3, 3)))
model.add(Activation('relu'))
model.add(MaxPooling2D(pool_size=(2, 2)))

model.add(Flatten())
model.add(Dense(64))
model.add(Activation('relu'))
model.add(Dropout(0.5))
model.add(Dense(1))
model.add(Activation('sigmoid'))

model.compile(loss='binary_crossentropy',
              optimizer='rmsprop',
              metrics=['accuracy'])

# this is the augmentation configuration we will use for training
train_datagen = ImageDataGenerator(
    rescale=1. / 255,
    shear_range=0.2,
    zoom_range=0.2,
    horizontal_flip=True)

# this is the augmentation configuration we will use for testing:
# only rescaling
test_datagen = ImageDataGenerator(rescale=1. / 255)

train_generator = train_datagen.flow_from_directory(
    train_data_dir,
    target_size=(img_width, img_height),
    batch_size=batch_size,
    class_mode='binary')

validation_generator = test_datagen.flow_from_directory(
    validation_data_dir,
    target_size=(img_width, img_height),
    batch_size=batch_size,
    class_mode='binary')
model.fit_generator(
    train_generator,
    steps_per_epoch=nb_train_samples // batch_size,
    epochs=epochs,
    validation_data=validation_generator,
    validation_steps=nb_validation_samples // batch_size)

model.save_weights('first_try.h5')

我试过了：

将时期增加到10,20,50。
通过增加数据集中的图像（添加到训练集中的所有验证图像）。
通过更新Conv2D图层
尝试添加几个Conv2D图层，MaxPooling图层
还尝试使用不同的优化器，例如adam，Sgd等
还尝试将过滤器步幅更新为(1,1) and (5,5)而不是(3,3)
还尝试将更改的图片尺寸更新为(256, 256)，(64, 64)来自(150, 150)

但是没有运气，每次我的准确率都高达32％或更低，但不是更多。不知道我错过了什么。

与我们可以看到的github repo一样，它为同一数据集提供了72％的准确率（Training -979，Validation -171）。为什么它不适合我。

我在我的机器上的github链接上尝试了他的代码，但是在训练数据集时它被挂起（我等了8个多小时），所以改变了方法，但到目前为止仍然没有运气。

这是包含我的训练时期输出的Pastebin。

Answer 1

问题是由输出类的数量（三）与您选择的最终层激活（Sigmoid）和损失函数（二进制交叉熵）之间的不匹配引起的。

sigmoid函数将实际值“压缩”为[0,1]之间的值，但它仅适用于二进制（两类）问题。对于多个类，您需要使用softmax函数之类的东西。 Softmax是sigmoid的一般化版本（当你有两个类时，两者应该是等价的。）

还需要将损失值更新为可以处理多个类的损失值 - 在这种情况下，分类交叉熵将起作用。

就代码而言，如果将模型定义和编译代码修改为下面的版本，它应该可以工作。

model = Sequential()
model.add(Conv2D(32, (3, 3), input_shape=input_shape))
model.add(Activation('relu'))
model.add(MaxPooling2D(pool_size=(2, 2)))

model.add(Conv2D(32, (3, 3)))
model.add(Activation('relu'))
model.add(MaxPooling2D(pool_size=(2, 2)))

model.add(Conv2D(64, (3, 3)))
model.add(Activation('relu'))
model.add(MaxPooling2D(pool_size=(2, 2)))

model.add(Flatten())
model.add(Dense(64))
model.add(Activation('relu'))
model.add(Dropout(0.5))
model.add(Dense(1))
model.add(Activation('softmax'))

model.compile(loss='categorical_crossentropy',
              optimizer='rmsprop',
              metrics=['accuracy'])

最后，您需要在数据生成器中指定class_mode='categorical'。这将确保输出目标被格式化为分类3列矩阵，其中列中的一个对应于正确的值并且在其他地方为零。 categorical_cross_entropy损失函数需要此响应格式。

Answer 2

较小的修正：

model.add(Dense(1))

应该是：

model.add(Dense(3))

它必须符合输出中的类数。

CNN与keras，准确度没有提高

2 个答案: