我正在努力使用插入符号包执行分类树几天。 问题是我的因素变量。我生成了树,但是当我尝试使用最佳模型对测试样本进行预测时,它失败了,因为列车函数为我的因子变量创建了虚拟对象,然后预测函数无法在测试集中找到这些新创建的虚拟对象。我应该如何处理这个问题?
我的代码如下:
install.packages("caret", dependencies = c("Depends", "Suggests"))
library(caret)
db=data.frame(read.csv ("db.csv", head=TRUE, sep=";", na.strings ="?"))
fix(db)
db$defaillance=factor(db$defaillance)
db$def=ifelse(db$defaillance==0,"No","Yes")
db$def=factor(db$def)
db$defaillance=NULL
db$canal=factor(db$canal)
db$sect_isodev=factor(db$sect_isodev)
db$sect_risq=factor(db$sect_risq)
#delete zero variance predictors
nzv <- nearZeroVar(db[,-78])
db_new <- db[,-nzv]
inTrain <- createDataPartition(y = db_new$def, p = .75, list = FALSE)
training <- db_new[inTrain,]
testing <- db_new[-inTrain,]
str(training)
str(testing)
dim(training)
dim(testing)
用于训练/测试的str()函数示例如下:
$ FDR : num 1305 211 162 131 143 ...
$ FCYC : num 0.269 0.18 0.154 0.119 0.139 ...
$ BFDR : num 803 164 108 72 76 63 100 152 188 80 ...
$ TRES : num 502 47 54 59 67 49 53 -7 -103 -109 ...
$ sect_isodev: Factor w/ 9 levels "1","2","3","4",..: 4 3 3 3 3 3 3 3 3 3 ...
$ sect_risq : Factor w/ 6 levels "0","1","2","3",..: 6 6 6 6 6 6 6 6 6 6 ...
$ def : Factor w/ 2 levels "No","Yes": 1 1 1 1 1 1 1 1 1 1 ...
> dim(training)
[1] 14553 42
> dim(testing)
[1] 4850 42
然后我的代码就是这样:
fitControl <- trainControl(method = "repeatedcv",
number = 10,
repeats = 10,
classProbs = TRUE,
summaryFunction = twoClassSummary)
#CART1
set.seed(1234)
tree1 = train (def~.,
training,
method = "rpart",
tuneLength=20,
metric="ROC",
trControl = fitControl)
的样本
summary(tree1$finalModel)
在这里
RNTB 38.397731
sect_isodev1 6.742289
sect_isodev3 4.005016
sect_isodev8 2.520850
sect_risq3 9.909127
sect_risq4 6.737908
sect_risq5 3.085714
SOLV 73.067539
TRES 47.906884
sect_isodev2 0.000000
sect_isodev4 0.000000
sect_isodev5 0.000000
sect_isodev6 0.000000
sect_isodev7 0.000000
sect_isodev9 0.000000
sect_risq0 0.000000
sect_risq1 0.000000
sect_risq2 0.000000
这是错误:
model.tree1&lt; - predict(tree1 $ finalModel,testing) eval(expr,envir,enclos)中的错误:object&#39; sect_isodev1&#39;找不到
我很好奇还有另外一件事。我在Max Kuhn&#34;预测模型中找到了R&#34;语法如下:
predict(rpartTune$finalModel, newdata, type = "class")
其中rpartTune$finalModel
是与我的相同的分类树(或者与我的相同)。
现在,R不接受type =&#34; class&#34;。只输入=&#34; prob&#34;。我因此而感到困扰。
提前感谢您的回复
答案 0 :(得分:9)
除非您有充分理由,否则不要将predict.rpart
与train$finalModel
一起使用。 rpart
对象确实知道train
所做的任何事情,包括预处理。它可能不会给你正确的答案。毕竟,您可能正在使用train
以避免细节,因此请让predict.train
完成工作。
最高
编辑 -
关于type = "class"
和type = "prob"
位..
predict.rpart
默认生成类概率。虽然rpart
是最早的包之一,但默认情况下这是非典型的产品类。
predict.train
默认生成类,您必须使用type = "prob"
来获取概率。
答案 1 :(得分:6)
据我所知,有两个问题:
predict
找到合适的tree1$finalModel
函数,predict.rpart
应为tree1$finalModel
,因为rpart
属于type = "class"
类。我也得到了这个错误,遗憾的是我不知道其根本原因。这也是R不接受predict.rpart
的原因。 train
会接受它。sect_isodev1
函数会导致以后无法找到str
等变量的问题使用随机数据(类似于predict.rpart
)使用x和y对象重现错误,然后从rpart
明确地调用tree1 = train (y = training$def,
x = training[, -which(colnames(training) == "def")],
method = "rpart",
tuneLength=20,
metric="ROC",
trControl = fitControl)
summary(tree1$finalModel)
# This still results in Error: could not find function "predict.rpart":
model.tree1 <- predict.rpart(tree1$finalModel, newdata = testing)
# Explicitly calling predict.rpart from the rpart package works:
rpart:::predict.rpart(object = tree1$finalModel,
newdata = testing,
type = "class")
为我工作:
predict(tree1, testing)
顺便说一下,predict.train
,即train
与predict
对象一起使用,也可以工作并返回预测类。 编辑:正如Max指出的那样,通常最好只使用这种方法,而不是使{{1}}功能不同。