如何将套索和岭回归拟合(Glmnet)叠加到数据上?

时间:2019-04-30 19:51:21

标签: r graph regression glmnet

我有数据(如下),并且进行了线性,岭和套索回归。对于套索和岭回归,我使用交叉验证找到了最佳的λ。现在,我想将拟合的模型叠加到原始数据的y vs x图上。我在图上有线性模型,我只是想不出如何使其他两个出现。我已经在ggplot中尝试过,但是以R为底的答案也将非常有帮助!即使您可以指出正确的方向,那也很棒。

我的模型都工作正常。我在图上有线性回归线。但是,当我尝试以相同的方式绘制其他两个拟合时,将无法正常工作。

创建数据的代码

set.seed(1)
x <- rnorm(100)
y <- 1 + .2*x+3*x^2+.6*x^3 + rnorm(100)
d <- data.frame(x=x,y=y)
d$x2 <- d$x^2
d$x3 <- d$x^3
d$x4 <-d$x^4
d$x5 <-d$x^5

线性回归

f <- lm(y ~ ., data=d)

岭回归

library(glmnet) 
x <- model.matrix(y ~ ., data=d)
y <- d$y

grid <- 0.001:50
ridge.fit <- glmnet(x,y,alpha=0, lambda = grid)

cv <- cv.glmnet(x,y)
r.fit.new <-  glmnet(x,y,alpha=0, lambda = cv$lambda.min)

套索

lasso.fit <- glmnet(x,y,alpha=1, lambda = grid) 
l.fit.new <- glmnet(x,y,alpha=1, lambda = cv$lambda.min)

ggplot(data=d, aes(x=x, y=y)) + geom_point() + geom_line(aes(y=fitted(f)), colour="blue") 

1 个答案:

答案 0 :(得分:0)

更改了用于创建数据的代码

set.seed(1)
x <- rnorm(100)
y <- 1 + .2*x+3*x^2+.6*x^3 + rnorm(100)
d <- data.frame(x.values=x,y=y)
d$x2 <- d$x.values^2
d$x3 <- d$x.values^3
d$x4 <-d$x.values^4
d$x5 <-d$x.values^5

用于创建模型矩阵的其余代码 并按原样进行建模。

有些想格式化绘图数据

library(dplyr)
data.for.plot <- d%>%
select(x.values,y) %>%
mutate(fitted_lm = as.numeric(fitted(f)),
fitted_ridge_lm = as.numeric(predict(r.fit.new, newx= x)),
fitted_lasso_lm = as.numeric(predict(l.fit.new, newx= x)))

#Plot
ggplot(data.for.plot, aes(x = x.values, y = y)) + 
  geom_point() + 
  geom_line(aes(y=fitted_lm), colour="blue") + 
  geom_line(aes(y=fitted_ridge_lm), colour="red") + 
  geom_line(aes(y= fitted_lasso_lm),color="grey75") + theme_bw()

enter image description here

现在,您会发现很难看到拟合的关系,因为它们彼此非常接近(模型同意)。 因此,让我们对数据进行一些格式化,然后在ggplot中使用构面来单独查看适合的情况

library(tidyr)
data.for.plot.long <- gather(data.for.plot, key= fit_type, value = fits, -x.values,-y)
ggplot(data.for.plot.long, aes(y = y, x = x.values)) +
    geom_point() + 
    geom_line(aes(y = fits,colour=fit_type))+facet_wrap(~fit_type, ncol = 1,scales = "free") + theme_bw()

结果图: enter image description here