修改

Question

我有一个多输出模型，比如这个

       input
         |
      hidden
         |
        / \
       /   \
output1    output2

我可以通过model.train_on_batch(input=input,output=[output1,output2])来训练这个模型，但是在我训练的某个特定阶段，我想只训练这个模型的一个分支（输出2）并防止输出1的反向传播。我最初尝试在模型None中传递model.train_on_batch(input=input,output=[None,output2])值，但显示

AttributeError：'NoneType'对象没有属性'shape'

然后我尝试传递output1形状model.train_on_batch(input=input,output=[Nan_array,output2])的NaN数组，然后损失变为NaN。如何在多输出keras模型中仅训练一个分支并防止另一个分支中的反向传播？

修改

我试图找到解决此问题的方法并遇到K.stop_gradient函数。我试图在这样一个输出模型中停止backpropogaion

import numpy as np
from keras.models import Sequential
from keras.layers import Dense, Dropout
import keras.backend as K

def loss(y_true, y_pred):
    return K.stop_gradient(y_pred)

# Generate dummy data
x_train = np.random.random((10, 20))
y_train = np.random.randint(2, size=(10, 1))
x_test = np.random.random((10, 20))
y_test = np.random.randint(2, size=(10, 1))

model = Sequential()
model.add(Dense(64, input_dim=20, activation='relu'))
model.add(Dropout(0.5))
model.add(Dense(64, activation='relu'))
model.add(Dropout(0.5))
model.add(Dense(1, activation='sigmoid'))

model.compile(loss=loss,
              optimizer='rmsprop',
              metrics=['accuracy'])

model.fit(x_train, y_train,
          epochs=1,
          batch_size=128)

score = model.evaluate(x_test, y_test, batch_size=128)

但是得到了这个错误

ValueError：尝试将'x'转换为张量并失败。错误：不支持任何值。

Answer 1

您可以使用共享权重创建两个Model个对象。第一个模型在output=[output1, output2]上进行优化，而第二个模型仅包含output2的分支。如果您在第二个模型上调用train_on_batch，则不会更新分支1中的权重。

例如，

x = Input(shape=(32,))
hidden = Dense(32)(x)
output1 = Dense(1)(hidden)
output2 = Dense(1)(hidden)

model = Model(x, [output1, output2])
model.compile(loss='mse', optimizer='adam')

model_only2 = Model(x, output2)
model_only2.compile(loss='mse', optimizer='adam')

X = np.random.rand(2, 32)
y1 = np.random.rand(2)
y2 = np.random.rand(2)

# verify: all the weights will change if we train on `model`
w0 = model.get_weights()
model.train_on_batch(X, [y1, y2])
w1 = model.get_weights()
print([np.allclose(x, y) for x, y in zip(w0, w1)])
# => [False, False, False, False, False, False]

# verify: branch 1 will not change if we train on `model_only2`
model_only2.train_on_batch(X, y2)
w2 = model.get_weights()
print([np.allclose(x, y) for x, y in zip(w1, w2)])
# => [False, False, True, True, False, False]

Answer 2

设置类似

的图层

layer.trainable = False

所以在训练期间，这一层不会改变重量。

https://keras.io/getting-started/faq/#how-can-i-freeze-keras-layers

Answer 3

您是否尝试过传递None来像这样编译模型：

model.compile(loss=loss,
              optimizer='rmsprop',
              metrics=[None, 'accuracy'])

？

编译keras模型后如何防止反向传播？

修改

3 个答案: