解释R中glmnet中的系数名称

时间:2012-06-21 15:46:11

标签: r machine-learning glm glmnet

我使用glmnet使用以下代码基于一组5个功能预测概率。我需要实际的公式,因为我需要在不同的(非R)程序中使用它。

deg = 3

glmnet.fit <- cv.glmnet(poly(train.matrix,degree=deg),train.result,alpha=0.05,family='binomial')

结果系数的名称有五个位置(我假设这是每个特征之一),并且它们中的每一个都是0到3之间的数字(我假设这是多项式的次数)。但我仍然对如何重建公式感到困惑。

以这些为例:

> coef(glmnet.fit,s= best.lambda)  
(Intercept) -2.25e-01  
...
0.1.0.0.1    3.72e+02
1.1.0.0.1    9.22e+04
0.2.0.0.1    6.17e+02
...

让我们调用功能A,B,C,D,E。这是如何解释公式的?

Y =
-2.25e-01 +
...
(3.72e+02 * (B * E) +
(9.22e+04 * (A * B * E) +
(6.17e+02 * (B^2 + E)
...

如果这不正确,我应该如何理解?

我看到了以下question and answer,但它没有解决这些类型的系数名称。

提前感谢您的帮助。

1 个答案:

答案 0 :(得分:6)

通常,我们使用预测功能。在您的情况下,您需要在另一个程序中使用系数。我们可以检查使用预测和数据乘以系数的结果之间的一致性。

# example data

library(ElemStatLearn) 
library(glmnet) 
data(prostate) 

# training data 

data.train <- prostate[prostate$train,] 
y <- data.train$lpsa 

# isolate predictors

data.train <- as.matrix(data.train[,-c(9,10)]) 

# test data

data.test <- prostate[!prostate$train,] 
data.test <-  as.matrix(data.test[,-c(9,10)]) 

# fit training model 

myglmnet =cv.glmnet(data.train,y) 

# predictions by using predict function 

yhat_enet <- predict(myglmnet,newx=data.test, s="lambda.min") 

#  get predictions by using coefficients 

beta  <- as.vector( t(coef(myglmnet,s="lambda.min"))) 

# Coefficients are returned on the scale of the original data. 
# note we need to add column  of 1s for intercept

testX <- cbind(1,data.test) 
yhat2  <- testX %*% beta 

# check by plotting predictions  

plot(yhat2,yhat_enet)

因此每个系数对应于训练数据中的一列。第一个对应截距。总之,您可以提取系数并乘以测试数据以获得您感兴趣的结果。