Keras Lambda CTC无法加载模型

时间:2017-08-15 23:01:34

标签: python keras keras-2

嗨我有一个基于这个https://github.com/igormq/asr-study/tree/keras-2的模型,它可以保存好但是无法加载(完整模式或json /权重),因为损失不是' t正确定义。

inputs = Input(name='inputs', shape=(None, num_features))
...
o = TimeDistributed(Dense(num_hiddens))(inputs)

# Output layer
outputs = TimeDistributed(Dense(num_classes))(o)

# Define placeholders
labels = Input(name='labels', shape=(None,), dtype='int32', sparse=True)
inputs_length = Input(name='inputs_length', shape=(None,), dtype='int32')

# Define a decoder
dec = Lambda(ctc_utils.decode, output_shape=ctc_utils.decode_output_shape,
             arguments={'is_greedy': True}, name='decoder')
y_pred = dec([output, inputs_length])

loss = ctc_utils.ctc_loss(output, labels, input_length)


model = Model(input=[inputs, labels, inputs_length], output=y_pred)
model.add_loss(loss)

opt = Adam(lr=args.lr, clipnorm=args.clipnorm)

 # Compile with dummy loss
 model.compile(optimizer=opt, loss=None, metrics=[metrics.ler])

这将编译并运行(注意它使用的add_loss函数没有很好地记录)。它甚至可以说是通过一些工作来保存 - 正如这篇文章提示(https://github.com/fchollet/keras/issues/5179),你可以通过强制图表完成来节省它。我这样做是通过制作一个虚拟的lambda损失函数来引入不完全属于图形的输入,现在这似乎有效。

#this captures all the dangling nodes so will now save
fake_dummy_loss = Lambda(fake_ctc_loss,output_shape(1,),name=ctc)([y_pred,labels,inputs_length])

def fake_ctc_loss(args):
return tf.Variable(tf.zeros([1]),name="fakeloss")

我们可以像这样添加到模型中:

model = Model(input=[inputs, labels, inputs_length], output=[y_pred, fake_dummy_loss])

现在尝试加载时的损失,说它不能因为它缺少一个丢失函数(我猜这是因为尽管使用了add_loss它已设置为None。

感谢任何帮助

1 个答案:

答案 0 :(得分:0)

我在我的项目中遇到了类似的问题,其中add_loss用于手动向我的模型添加自定义损失函数。您可以在此处查看我的模型:Keras Loss Function with Additional Dynamic Parameter如您所见,使用load_model加载模型失败,抱怨缺少丢失函数。

无论如何,我的解决方案是保存并加载模型的权重而不是整个模型。 Model类有一个save_weights方法,在此处讨论:https://keras.io/models/about-keras-models/同样,还有一个load_weights方法。使用这些方法,您应该能够很好地保存和加载模型。缺点是您必须预先定义模型,然后加载权重。在我的项目中,这不是一个问题,只涉及一个小型的重构。

希望有所帮助。