Question

我正在尝试创建一个二元分类器，使用caret进行建模以优化ROC。我尝试的方法是C5.0，我收到以下错误和警告：

Error in train.default(x, y, weights = w, ...) : 
  final tuning parameters could not be determined
In addition: Warning messages:
1: In nominalTrainWorkflow(x = x, y = y, wts = weights, info = trainInfo,  :
  There were missing values in resampled performance measures.
2: In train.default(x, y, weights = w, ...) :
  missing values found in aggregated results

我之前使用C5.0和caret对相同的训练数据进行了建模，但优化了精度，而不是在控件中使用了twoClassSummary，并且运行时没有错误。

我的调整网格和ROC运行控件是

c50Grid <- expand.grid(.trials = c(1:9, (1:10)*10),
                       .model = c("tree", "rules"),
                       .winnow = c(TRUE, FALSE))

fitTwoClass <- trainControl(
  method = "repeatedcv",
  number = 5,
  repeats = 5,
  classProbs=TRUE,
  summaryFunction = twoClassSummary
  )

在准确度运行期间，我省略了控件的classProbs和summaryFunction部分。

对于建模，命令是

fitModel <- train(
  Unhappiness ~ .,
  data = dnumTrain,
  tuneGrid=c50Grid,
  method = "C5.0",
  trControl = fitTwoClass,
  tuneLength = 5,
  metric= "ROC"
  )

有人可以建议如何排除故障吗？不确定要调整哪个参数以使其工作，而我相信数据集应该没问题（因为它在优化精度时运行正常）。

要重现，培训集dnumTrain可以this link中的文件load编辑。

Answer 1

我想我可能已经解决了这个问题：在评论中看到@Pascal能够无误地运行代码，并意识到我得到一个非常随机的结果，用ctree运行它，我调查了更多区域这可能与随机性有关：随机种子。

似乎问题来自于我使用doSNOW将进程并行处理到4个处理器，并且需要为每次迭代设置种子以避免随机爬行（参见对this question的回答）。我怀疑随机数据导致某些折叠没有有效值。

无论如何，我将种子设置如下：

CVfolds <- 5
CVreps <- 5
seedNum <- CVfolds * CVreps + 1
seedLen <- CVfolds + tuneLength
# create manual seeds vector for parallel processing repeatibility
set.seed(123)
seeds <- vector(mode = "list", length = seedNum)
for(i in 1:(seedNum-1)) seeds[[i]] <- sample.int(1000, seedLen)  
## For the last model:
seeds[[seedNum]] <- sample.int(1000, 1)

fitTwoClass <- trainControl(
  method = "repeatedcv",
  number = CVfolds,
  repeats = CVreps,
  classProbs=TRUE,
  summaryFunction = twoClassSummary,
  seeds = seeds
  )

到目前为止，我已经重新训练fitModel 3次并且没有错误/警告，所以我希望这确实是我的问题的答案。

Caret“train.default中的错误（x，y，weight = w，...）：在优化ROC时无法确定最终调整参数

1 个答案: