套索和岭估计

时间:2012-12-10 23:03:07

标签: regression lasso

我有一个包含大量数据的txt文件。 我如何使用套索或脊估计来拟合回归方程?

我得到了使用: gridge

但是,我不确定lambda部分在做什么。我在一个网站上发现它并且不知道要放在那里的值。

我不知道如何解释输出: 修改后的HKB估算值为5.465433 modifiedL-W estimator是7.6435664 GCV的最小值为3.24

我应该如何使用该信息拟合回归方程?

1 个答案:

答案 0 :(得分:2)

Lambda是惩罚的力量,See this更好地理解lambda的效果。通常,您通过“尝试错误”或使用交叉验证程序选择此值。

Lasso和Ridge估计都有助于通过限制待估计参数的值来减少拟合模型。它们之间的主要区别在于惩罚函数的形状。

Lasso可以产生稀疏模型,其中一些参数可以精确地,而Ridge可以导致参数具有非常小的值但不完全为零。