Keras中的自定义损耗函数(焦距损耗)输入大小错误

时间:2019-11-06 11:03:45

标签: keras neural-network deep-learning loss-function imbalanced-data

我正在使用中性网络进行多类别分类。有3种不平衡类,因此我想使用散焦来处理不平衡。因此,我使用自定义损失函数来拟合Keras顺序模型。我在网上找到了多个版本的失焦函数代码,但它们返回了相同的错误消息,基本上是说输入大小是预期的浴槽大小1.有人可以看一下这个问题,让我知道是否可以修理它?我真的很感激!!!

model = build_keras_model(x_train, name='training1')

class FocalLoss(keras.losses.Loss):
    def __init__(self, gamma=2., alpha=4.,
             reduction = tf.keras.losses.Reduction.AUTO, name='focal_loss'):

    super(FocalLoss, self).__init__(reduction=reduction,
                                    name=name)
    self.gamma = float(gamma)
    self.alpha = float(alpha)

def call(self, y_true, y_pred):

        epsilon = 1.e-9
        y_true = tf.convert_to_tensor(y_true, tf.float32)
        y_pred = tf.convert_to_tensor(y_pred, tf.float32)
        model_out = tf.add(y_pred, epsilon)
        ce = tf.multiply(y_true, -tf.math.log(model_out))
        weight = tf.multiply(y_true, tf.pow(
            tf.subtract(1., model_out), self.gamma))
        fl = tf.multiply(self.alpha, tf.multiply(weight, ce))
        reduced_fl = tf.reduce_max(fl, axis=1)
        return tf.reduce_mean(reduced_fl)

model.compile(optimizer = tf.keras.optimizers.Adam(0.001),
          loss = FocalLoss(alpha=1),
          metrics=['accuracy'])
​
class_weight = {0: 1.,
            1: 6.,
            2: 6.}

# fit the model (train for 5 epochs) history = model.fit(x=x_train, y=y_train, batch_size=64, epochs=5, class_weight = class_weight)

ValueError: Can not squeeze dim[0], expected a dimension of 1, got 64 for 'loss/output_1_loss/weighted_loss/Squeeze' (op: 'Squeeze') with input shapes: [64].

2 个答案:

答案 0 :(得分:1)

您面临的问题是,您正在利用某些旨在为您的逻辑做些准备的帮助器类,但是不幸的是,它的文档不太清楚其用途的用途,因此< em>您到底需要做什么。

在这种情况下,您使用tf.keras.losses.Loss。您所需要做的就是实现call()(以及可选的__init__)。不幸的是,documentation根本没有说明期望call()返回的内容。但是,由于您需要在reduction中指定一个__init__(),因此我们可以假设call()不仅会返回单个数字。否则reduction将毫无用处。换句话说:错误告诉您call()返回一个数字,而预期返回64个数字(您的批处理大小)。

因此,不要自己将批处理减少为一个数字(通过调用tf.reduce_mean(reduced_fl)),而是让helper类为您完成此操作,而直接返回reduced_f1。当前,您使用的可能是reduction=tf.keras.losses.Reduction.AUTO

答案 1 :(得分:0)

Keras损失函数采用一批预测和训练数据,并使用它们来产生损失张量。可以实现此目的的一种方法是,只需定义一个具有两个张量输入的函数即可返回数字,就像这样

def mse(y_true, y_pred):
    return K.mean(K.square(y_pred - y_true), axis=-1)

然后像这样在编译时将其传递给模型

model.compile(optimizer = tf.keras.optimizers.Adam(0.001), loss = mse)