Question

假设我有一个模型

from tensorflow.keras.applications import DenseNet201

base_model = DenseNet201(input_tensor=Input(shape=basic_shape))

model = Sequential()
model.add(base_model)

model.add(Dense(400))
model.add(BatchNormalization())
model.add(ReLU())

model.add(Dense(50, activation='softmax'))

model.save('test.hdf5')

然后，我加载保存的模型，并尝试使DenseNet201的后40层可训练，而使前161层不可训练：

saved_model = load_model('test.hdf5')
cnt = 44
saved_model.trainable = False
  while cnt > 0:
      saved_model.layers[-cnt].trainable = True
      cnt -= 1

但这实际上不起作用，因为DenseNet201被确定为单层，并且我刚得到索引超出范围错误。

Layer (type)                 Output Shape              Param #   
=================================================================
densenet201 (Functional)     (None, 1000)              20242984  
_________________________________________________________________
dense (Dense)                (None, 400)               400400    
_________________________________________________________________
batch_normalization (BatchNo (None, 400)               1600      
_________________________________________________________________
re_lu (ReLU)                 (None, 400)               0         
_________________________________________________________________
dense_1 (Dense)              (None, 50)                20050     
=================================================================
Total params: 20,665,034
Trainable params: 4,490,090
Non-trainable params: 16,174,944

问题是我如何才能使DenseNet的前161层不可训练，而在加载的模型上最后40层可训练？

Answer 1

densenet201 (Functional)是一个嵌套模型，因此您可以像访问“最高”模型的图层一样访问其图层。

saved_model.layers[0].layers

其中saved_model.layers[0]是具有自己图层的模型。

在循环中，您需要访问这样的层

saved_model.layers[0].layers[-cnt].trainable = True

更新

默认情况下，加载的模型层是可训练的（trainable=True），因此，您需要将底层的trainable属性设置为False。

keras在预训练模型上设置了可训练标志

1 个答案: