如何从决策树计算错误率?

时间:2012-03-12 11:29:49

标签: r classification decision-tree rpart

有谁知道如何使用R计算决策树的错误率? 我正在使用rpart()函数。

1 个答案:

答案 0 :(得分:52)

假设您的意思是计算用于拟合模型的样本的错误率,您可以使用printcp()。例如,使用在线示例

> library(rpart)
> fit <- rpart(Kyphosis ~ Age + Number + Start, data=kyphosis)
> printcp(fit)

Classification tree:
rpart(formula = Kyphosis ~ Age + Number + Start, data = kyphosis)

Variables actually used in tree construction:
[1] Age   Start

Root node error: 17/81 = 0.20988

n= 81 

        CP nsplit rel error  xerror    xstd
1 0.176471      0   1.00000 1.00000 0.21559
2 0.019608      1   0.82353 0.82353 0.20018
3 0.010000      4   0.76471 0.82353 0.20018

在考虑Root node errorrel error列中显示的值时,xerror用于计算预测性能的两个度量,并且取决于复杂性参数(第一列): / p>

  • 0.76471 x 0.20988 = 0.1604973(16.0%)是重新替代错误率(即在训练样本上计算的错误率) - 这大致是

    class.pred <- table(predict(fit, type="class"), kyphosis$Kyphosis)
    1-sum(diag(class.pred))/sum(class.pred)
    
  • 0.82353 x 0.20988 = 0.1728425(17.2%)是交叉验证错误率(使用10倍CV,请参阅xval中的rpart.control();但是另请参阅依赖此类措施的xpred.rpart()plotcp()。该度量是预测准确性的更客观指标。

请注意,它与tree

的分类准确性大致相同
> library(tree)
> summary(tree(Kyphosis ~ Age + Number + Start, data=kyphosis))

Classification tree:
tree(formula = Kyphosis ~ Age + Number + Start, data = kyphosis)
Number of terminal nodes:  10 
Residual mean deviance:  0.5809 = 41.24 / 71 
Misclassification error rate: 0.1235 = 10 / 81 

其中Misclassification error rate来自训练样本。