如何在Keras模型中将加权MSE用作损失函数?

时间:2020-07-14 11:36:50

标签: python tensorflow machine-learning keras loss-function

我正在尝试使用自定义损失函数来计算回归任务中的加权MSE(任务中的值:-1,-0.5、0、0.5、1、1.5、3等)。这是我的自定义损失函数的实现:

import tensorflow
import tensorflow.keras.backend as kb

def weighted_mse(y, yhat):
    ind_losses = tensorflow.keras.losses.mean_squared_error(y, yhat)
    weights_ind = kb.map_fn(lambda yi: weight_dict[kb.get_value(yi)], y, dtype='float32')
    # average loss over weighted sum of the batch
    return tensorflow.math.divide(tensorflow.math.reduce_sum(tensorflow.math.multiply(ind_losses, weights_ind)), len(y))

我正在运行一个有效的示例:

weight_dict = {-1.0: 70.78125, 0.0: 1.7224334600760458, 0.5: 4.58502024291498, 1.0: 7.524916943521595, 1.5: 32.357142857142854, 2.0: 50.33333333333333, 2.5: 566.25, 3.0: 566.25}
y_true = tensorflow.convert_to_tensor([[0.5],[3]])
y_pred = tensorflow.convert_to_tensor([[0.5],[0]])

weighted_mse(y_true, y_pred)

但是当输入我的模型时,它将引发以下错误:

AttributeError: 'Tensor' object has no attribute '_numpy'

这是我使用自定义损失函数的方式:

    model.compile(
    optimizer=opt,
    loss={
        "predicted_class": weighted_mse
    })

编辑:

weight_dict[kb.get_value(yi)]更改为weight_dict[float(yi)]时,出现以下错误:

TypeError: float() argument must be a string or a number, not 'builtin_function_or_method'

2 个答案:

答案 0 :(得分:1)

您想要的基本上是样品重量的概念。使用Keras的训练API时,除了数据外,您还可以传递另一个数组,该数组包含每个样本的权重,用于确定每个样本在损失函数中的贡献。

要使用它,可以使用sample_weight方法的fit自变量:

model.fit(X, y, sample_weight=X_weight, ...)

请注意,X_weight应该是与X相同长度的数组(即每个训练样本的权重值一个)。此外,如果Xtf.data.Dataset实例或生成器,则此参数不起作用,您需要将样本权重作为X返回的元组的第三个元素。 / p>

答案 1 :(得分:0)

这通常发生在旧版本的tensorflow中。您可以尝试两种方法:

  1. 在导入tensorflow时将此行添加到jupyter笔记本中,如下所示:
import tensorflow as tf
tf.enable_eager_execution()
  1. 在提示符中使用以下命令升级tensorflow:
pip install tensorflow --upgrade

这很可能是因为渴望执行。有关更多信息,请参见文档here