R Caret包中的Logistic回归调整参数网格?

时间:2017-12-14 21:56:04

标签: r logistic-regression r-caret hyperparameters

我正在尝试使用caret package在R中拟合逻辑回归模型。我做了以下事情:

model <- train(dec_var ~., data=vars, method="glm", family="binomial",
                 trControl = ctrl, tuneGrid=expand.grid(C=c(0.001, 0.01, 0.1, 1,10,100, 1000)))

但是,我不确定该模型的调整参数应该是什么,我很难找到它。我假设它是C,因为C是sklearn中使用的参数。目前,我收到以下错误 -

  

错误:调整参数网格应具有列参数

您对如何解决此问题有任何建议吗?

1 个答案:

答案 0 :(得分:3)

Per Max Kuhn的网络书籍search for method = 'glm' hereglm内没有调整参数caret

enter image description here

我们可以通过测试一些基本的train来电来轻松验证这种情况。首先,让我们从一个方法(rpart)开始,该方法每个网页都有一个调整参数(cp)。

library(caret)
data(GermanCredit)

# Check tuning parameter via `modelLookup` (matches up with the web book)
modelLookup('rpart')
#  model parameter                label forReg forClass probModel
#1 rpart        cp Complexity Parameter   TRUE     TRUE      TRUE

# Observe that the `cp` parameter is tuned
set.seed(1)
model_rpart <- train(Class ~., data=GermanCredit, method='rpart')
model_rpart
#CART 

#1000 samples
#  61 predictor
#   2 classes: 'Bad', 'Good' 

#No pre-processing
#Resampling: Bootstrapped (25 reps) 
#Summary of sample sizes: 1000, 1000, 1000, 1000, 1000, 1000, ... 
#Resampling results across tuning parameters:

#  cp          Accuracy   Kappa    
#  0.01555556  0.7091276  0.2398993
#  0.03000000  0.7025574  0.1950021
#  0.04444444  0.6991700  0.1316720

#Accuracy was used to select the optimal model using  the largest value.
#The final value used for the model was cp = 0.01555556.

我们看到cp参数已调整。现在让我们试试glm

# Check tuning parameter via `modelLookup` (shows a parameter called 'parameter')
modelLookup('glm')
#  model parameter     label forReg forClass probModel
#1   glm parameter parameter   TRUE     TRUE      TRUE

# Try out the train function to see if 'parameter' gets tuned
set.seed(1)
model_glm <- train(Class ~., data=GermanCredit, method='glm')
model_glm
#Generalized Linear Model 

#1000 samples
#  61 predictor
#   2 classes: 'Bad', 'Good' 

#No pre-processing
#Resampling: Bootstrapped (25 reps) 
#Summary of sample sizes: 1000, 1000, 1000, 1000, 1000, 1000, ... 
#Resampling results:

#  Accuracy   Kappa    
#  0.7386384  0.3478527

在这种情况下,上面有glm,没有执行参数调整。根据我的经验,名为parameter的{​​{1}}只是一个占位符,而不是一个真正的调整参数。如下面的代码所示,即使我们试图强制它调整parameter,它基本上只会做一个值。

parameter