Lasso：glmnet的交叉验证

Question

我使用cv.glmnet()执行交叉验证，默认为10-fold

library(Matrix)
library(tm)
library(glmnet)
library(e1071)
library(SparseM)
library(ggplot2)

trainingData <- read.csv("train.csv", stringsAsFactors=FALSE,sep=",", header = FALSE)
testingData  <- read.csv("test.csv",sep=",", stringsAsFactors=FALSE, header = FALSE)

x = model.matrix(as.factor(V42)~.-1, data = trainingData)
crossVal <- cv.glmnet(x=x, y=trainingData$V42, family="multinomial", alpha=1)
plot(crossVal)

我收到以下错误消息

Error in lognet(x, is.sparse, ix, jx, y, weights, offset, alpha, nobs,  : 
  one multinomial or binomial class has 1 or 0 observations; not allowed

但如下图所示，我似乎没有0或1的观察水平。

>table(trainingData$V42)

       back buffer_overflow       ftp_write    guess_passwd            imap         ipsweep            land      loadmodule        multihop 
        956              30               8              53              11            3599              18               9               7 
    neptune            nmap          normal            perl             phf             pod       portsweep         rootkit           satan 
      41214            1493           67343               3               4             201            2931              10            3633 
      smurf             spy        teardrop     warezclient     warezmaster 
       2646               2             892             890              20 

任何指针？

Answer 1

cv.glmnet默认情况下进行N次交叉验证，N = 10。这意味着它将您的数据拆分为10个子集，然后在10个子集中的9个上训练模型并在剩余的1个上对其进行测试。它重复此操作，依次省略每个子集。

您的数据非常稀疏，有时候，训练子集会遇到此处遇到的问题（以及your previous question中）。最好的解决方案是通过组合稀有类来减少响应中的类数（例如，真正需要获得spy或perl的预测概率

另外，如果你正在进行glmnet交叉验证并构建模型矩阵，你可以使用我写的glmnetUtils package来简化流程。