Question

我正在使用Keras构建语言模型，我想使用困惑作为损失函数，但是，当我尝试使用损失函数编译模型时，出现值错误，表明损失函数未知。

我的损失函数如下：

def perplexity_loss(y_true, y_pred):
    """
    The perplexity metric. Why isn't this part of Keras yet?!
    https://stackoverflow.com/questions/41881308/how-to-calculate-perplexity-of-rnn-in-tensorflow
    https://github.com/keras-team/keras/issues/8267
    """
    cross_entropy = keras.losses.SparseCategoricalCrossentropy(y_true, y_pred)
    perplexity = tf.keras.backend.exp(cross_entropy)
    return perplexity

这就是我启动模型的方式：

# define model
model = Sequential()
model.add(Embedding(vocab_size, 500, input_length=max_length-1))
model.add(LSTM(750))
model.add(Dense(vocab_size, activation='softmax'))
# compile network
model.compile(loss='perplexity_loss', optimizer='adam', metrics=['accuracy'])
# fit network
model.fit(X, y, epochs=150, verbose=2)

我收到以下错误：

ValueError: Unknown loss function:perplexity

Answer 1

引起该错误的原因是，您传递的是字符串（'perplexity_loss'，而不是函数。以下应该可以解决问题：

model.compile(loss=perplexity_loss, optimizer='adam', metrics=['accuracy'])

请注意，当您想再次加载模型时，必须使用：

from keras.models import load_model

model = load_model('my_model.h5', custom_objects={'perplexity_loss': perplexity_loss})

Keras：无法在模型中使用自定义损失函数

1 个答案: