为线性回归注入自定义成本函数

Question

我想运行套索或脊回归，但系数上的L1或L2约束在某些系数上，而不是全部。

另一种说法：我想在套索或岭算法中使用我自己的自定义成本函数。

我想避免重写整个算法。 python中是否有允许这样的模块？到目前为止，我查看了scipy和sckit-learn，但找不到。

Answer 1

我怀疑没有适合您需求的随时可用的模块。

如果我是你，我会：

1. 将要素划分为2组：一组用于简单线性回归，另一组用于正则化回归。在两组不同（可能重叠？）的特征上训练两个模型。当您交叉验证模型时，为了防止折叠之间的信息泄漏，我建议修复折叠并在同一组固定折叠上训练两个模型。

2. 在最上面，堆叠并训练任何其他回归模型。