对于回归,有多少种损失函数?它们是什么以及什么时候应该使用它们?

时间:2017-12-29 09:22:57

标签: regression tensorflow-gpu loss

我只是为回归问题找到了良好的损失函数。然后在 Tensorflow 中使用它。

在tensorflow的API中,有很多损失函数,大多数都是针对分类问题而设计的。

对于回归问题, MSE 以外的任何其他良好的损失函数?

2 个答案:

答案 0 :(得分:3)

我在代码中使用以下拟合目标列表:

绝对误差平方的最小和

平方相对误差的最小和

平方正交距离的最小和

绝对误差绝对值的最小值

最小平方对数[abs(预测/实际)]

相对误差绝对值的最小和

绝对误差的最低峰值绝对值

相对误差的最低峰值绝对值

最低的Akaike信息标准

最低贝叶斯信息准则

通常标准的最小平方绝对误差足以满足我的需要,尽管我偶尔使用平方相对误差的最小和。我很少或根据需要使用其他拟合目标来减少异常值在数据中的拟合效果。

答案 1 :(得分:0)

请参阅 scipy 文档中关于稳健非线性回归的更简洁且易于获得的亚线性损失函数列表。

soft_l1 通常可以有效地捕捉潜在的重要性,同时拒绝异常值。如果您在稀疏数据集中具有高杠杆率的异常值,则尤其重要。

https://scipy-cookbook.readthedocs.io/items/robust_regression.html