在编译或拟合之前合并keras模型?

时间:2018-11-08 10:48:29

标签: python machine-learning keras

在Keras 2.2.4中工作

我有三个数据特征(feature1,feature2,feature3),它们对应于一组用户以及他们如何对某些项目进行排名。目前,我已经使用以下模型架构分别对它们进行了建模:

input_vecs = add([feature1_vec, user_vec])
nn = Dropout(0.5)(Dense(128, activation='relu')(input_vecs))
nn = BatchNormalization()(nn)
nn = Dropout(0.5)(Dense(128, activation='relu')(nn))
nn = BatchNormalization()(nn)
nn = Dense(128, activation='relu')(nn)
feature1result = Dense(9, activation='softmax')(nn)

feature1model = Model([feature1_input, user_input], feature1result)
featuremodel.compile('adam', 'categorical_crossentropy')

每个模型都具有相似的体系结构(每个模型都经过单独调整),并且输出的样式/形状相同。我想将这三个模型的初步结果放入新的图层,然后创建最终结果。

我想我可以分别运行这三个模型,获取它们的输出,然后使用如下结构将其输出到一个全新的(可能是顺序的)模型中:

model1 = load_model("feature1.h5")
model2 = load_model("feature2.h5")
model3 = load_model("feature3.h5")
merged_model = Sequential()
merged_model.add(merge([model1.layers[-1].output,model2.layers[-1].output,model3.layers[-1].output]))
merged_model.add(Dense(units = 9, activation='relu')) #or whatever units
merged_model.add(Dense(units = 12, activation='relu'))#or whatever units
merged_model.add(Dense(9, activation='softmax'))

但是,我想预先合并它们,因为这将使以后的模型管理更加轻松(即,仅更新一个大型模型而不是更新4个较小的模型)。

在执行compile()fit()步骤之前,我该怎么做?

1 个答案:

答案 0 :(得分:1)

您需要使用功能性API来使用合并层。我希望这能给您带来想法:

input = Input( ... ) 
model1 = load_model("feature1.h5")
model2 = load_model("feature2.h5")
model3 = load_model("feature3.h5")

m1 = model1(input)
m2 = model2(input)
m3 = model3(input)
merged_model = merge([m1,m2,m3]) 
...