如何在LASSO回归中计算交叉验证的R2?

时间:2018-06-08 18:57:04

标签: r regression glmnet lasso

我使用此代码来使用LASSO回归拟合模型。

library(glmnet)
IV1 <- data.frame(IV1 = rnorm(100))
IV2 <- data.frame(IV2 = rnorm(100))
IV3 <- data.frame(IV3 = rnorm(100))
IV4 <- data.frame(IV4 = rnorm(100))
IV5 <- data.frame(IV5 = rnorm(100))
DV <- data.frame(DV = rnorm(100))

data<-data.frame(IV1,IV2,IV3,IV4,IV5,DV)

x <-model.matrix(DV~.-IV5 , data)[,-1]
y <- data$DV

AB<-glmnet(x=x, y=y, alpha=1)
plot(AB,xvar="lambda")

lambdas = NULL
for (i in 1:100)
{
  fit <- cv.glmnet(x,y)
  errors = data.frame(fit$lambda,fit$cvm)
  lambdas <- rbind(lambdas,errors)
}

lambdas <- aggregate(lambdas[, 2], list(lambdas$fit.lambda), mean)


bestindex = which(lambdas[2]==min(lambdas[2]))
bestlambda = lambdas[bestindex,1]


fit <- glmnet(x,y,lambda=bestlambda)

我想使用训练数据计算某种R2。我假设一种方法是使用我在选择lambda时执行的交叉验证。基于此post,似乎可以使用

完成
r2<-max(1-fit$cvm/var(y))

然而,当我运行它时,我收到此错误:

Warning message:
In max(1 - fit$cvm/var(y)) :
no non-missing arguments to max; returning -Inf

有人能指出我正确的方向吗?这是根据训练数据计算R2的最佳方法吗?

1 个答案:

答案 0 :(得分:1)

函数glmnet在fit

时不会返回cvm
?glmnet

您要做的是使用cv.glmnet

?cv.glmnet 

以下作品(请注意,您必须指定多于1个lambda或让它计算出来)

fit <- cv.glmnet(x,y,lambda=lambdas[,1])

r2<-max(1-fit$cvm/var(y))

我不确定我明白你要做什么。也许这样做?

for (i in 1:100)
{
  fit <- cv.glmnet(x,y)
  errors = data.frame(fit$lambda,fit$cvm)
  lambdas <- rbind(lambdas,errors)
  r2[i]<-max(1-fit$cvm/var(y))
}

lambdas <- aggregate(lambdas[, 2], list(lambdas$fit.lambda), mean)


bestindex = which(lambdas[2]==min(lambdas[2]))
bestlambda = lambdas[bestindex,1]
r2[bestindex]
相关问题