具有变化的k-hot编码矢量的LSTM

时间:2017-04-18 18:46:17

标签: python machine-learning tensorflow neural-network keras

来自LSTM with keras

的后续问题

在该示例中,使用一个热编码矢量来使用LSTM执行分类。如何使用此LSTM执行 k-hot 编码,其中k值不是常量值。比方说k可能是3k可能是5k可能是某些样本中的其他变量整数?

1 个答案:

答案 0 :(得分:3)

这是一项多类分类任务。为了解决您需要:

  1. 将输出激活设置为sigmoid:

    model.add(Dense(150, activation='sigmoid'))
    
  2. 将目标设置为指标编码:

    如果你是4个类,对于给定的示例,设置类0和2,您的输出应为[1, 0, 1, 0]

  3. 使用以下损失:

    import keras.backend as K
    
    def multiclass_loss(y_true, y_pred):
        EPS = 1e-5
        y_pred = K.clip(y_pred, EPS, 1 - EPS)
        return -K.mean((1 - y_true) * K.log(1 - y_pred) + y_true * K.log(y_pred))
    
    model.compile(optimizer=..., loss=multiclass_loss)