使用Caret在R中创建k折CV的折叠

时间:2014-04-07 03:46:23

标签: r cross-validation r-caret

我正在尝试使用

提供的数据为几种分类方法/ hiper参数制作k-fold CV
  

http://archive.ics.uci.edu/ml/machine-learning-databases/undocumented/connectionist-bench/sonar/sonar.all-data

这个集合由208行组成,每行有60个属性。我正在使用read.table函数将其读入data.frame。

下一步是将我的数据分成k个折叠,假设k = 5.我的第一次尝试是使用

  

test< - createFolds(t,k = 5)

我有两个问题。第一个是折叠的长度彼此不相邻:

  Length Class  Mode   
     

Fold1 29 -none-数字
  Fold2 14 -none-数字
  Fold3 7 -none-数字
  Fold4 5 -none-数字
  Fold5 5 -none-数字

另一个是,这显然是根据属性索引分割我的数据,但我想分割数据本身。我想通过转置我的data.frame,使用:

  

test< - t(myDataNumericValues)

但是当我调用createFolds函数时,它会给我这样的东西:

  Length Class  Mode   
     

Fold1 2496 -none-数字
  Fold2 2496 -none-数字
  Fold3 2495 -none-数字
  Fold4 2496 -none-数字
  Fold5 2497 -none-数字

长度问题已经解决,但它仍然没有相应地拆分我的208数据。

关于我能做什么的任何想法?你认为插入符号包不是最合适的吗?

提前致谢

2 个答案:

答案 0 :(得分:25)

请阅读?createFolds以了解该功能的作用。它创建了索引,用于定义哪些数据保持单独的折叠(请参阅返回反向的选项):

  > library(caret)
  > library(mlbench)
  > data(Sonar)
  > 
  > folds <- createFolds(Sonar$Class)
  > str(folds)
  List of 10
   $ Fold01: int [1:21] 25 39 58 63 69 73 80 85 90 95 ...
   $ Fold02: int [1:21] 19 21 42 48 52 66 72 81 88 89 ...
   $ Fold03: int [1:21] 4 5 17 34 35 47 54 68 86 100 ...
   $ Fold04: int [1:21] 2 6 22 29 32 40 60 65 67 92 ...
   $ Fold05: int [1:20] 3 14 36 41 45 75 78 84 94 104 ...
   $ Fold06: int [1:21] 10 11 24 33 43 46 50 55 56 97 ...
   $ Fold07: int [1:21] 1 7 8 20 23 28 31 44 71 76 ...
   $ Fold08: int [1:20] 16 18 26 27 38 57 77 79 91 99 ...
   $ Fold09: int [1:21] 13 15 30 37 49 53 74 83 93 96 ...
   $ Fold10: int [1:21] 9 12 51 59 61 62 64 70 82 87 ...

使用它们来分割数据:

   > split_up <- lapply(folds, function(ind, dat) dat[ind,], dat = Sonar)
   > dim(Sonar)
   [1] 208  61
   > unlist(lapply(split_up, nrow))
   Fold01 Fold02 Fold03 Fold04 Fold05 Fold06 Fold07 Fold08 Fold09 Fold10 
       21     21     21     21     20     21     21     20     21     21 

此程序包中使用函数train来进行实际建模(您通常不需要自己进行拆分。请参阅this page)。

最高

答案 1 :(得分:1)

我不熟悉caret包,但我曾经根据rpart包中的决策树编写了一个计算CV的函数。当然,该功能需要动机才能满足您的目的。

CV <- function(form, x, fold = 10, cp = 0.01) {
  # x is the data
  n <- nrow(x)
  prop <- n%/%fold
  set.seed(7)
  newseq <- rank(runif(n))
  k <- as.factor((newseq - 1)%/%prop + 1)

  y <- unlist(strsplit(as.character(form), " "))[2]
  vec.accuracy <- vector(length = fold)
  for (i in seq(fold)) {
    # It depends on which classification method you use
    fit <- rpart(form, data = x[k != i, ], method = "class")
    fit.prune <- prune(fit, cp = cp)
    fcast <- predict(fit.prune, newdata = x[k == i, ], type = "class")
    cm <- table(x[k == i, y], fcast)
    accuracy <- (cm[1, 1] + cm[2, 2])/sum(cm)
    vec.accuracy[i] <- accuracy
  }
avg.accuracy <- mean(vec.accuracy)
avg.error <- 1 - avg.accuracy
cv <- data.frame(Accuracy = avg.accuracy, Error = avg.error)
return(cv)

}