rpart中的关键方法选择

时间:2017-03-16 05:48:47

标签: r rpart

rpartjQuery(document).ready(function($) { $("#menu-toggle").click(function(e) { e.preventDefault(); e.stopPropagation(); $("#wrapper").toggleClass("toggled"); }); $(document).click(function(e) { if ($(e.target).closest('#sidebar-wrapper').length === 0) { $("#wrapper").removeClass("toggled"); } }); }); 函数中选择复杂性参数(cp)和方法的规则是什么?我已经阅读了一些关于包装的文章,但内容对我来说太技术化了。

示例:

rpart()

1 个答案:

答案 0 :(得分:1)

您通常不会选择 method参数;它是为您选择的,是您正在解决的问题的一部分。如果是分类问题,则使用method="class",如果是回归问题,则使用method="anova",依此类推。当然,这意味着您必须了解您正在尝试解决的问题,以及您的数据是否会让您解决问题。

cp参数控制拟合树的大小。您可以通过交叉验证或使用单独的测试数据集来选择其值。 rpart与大多数其他R建模软件包的处理方式有所不同。默认情况下,rpart函数会自动进行交叉验证。然后检查模型以查看交叉验证的结果,并根据该模型修剪模型。

工作示例,使用MASS::Boston数据集:

library(MASS)

# does 10-fold CV by default
Bos.tree <- rpart(medv ~ ., data=Boston, cp=0)

# look at the result of the CV
plotcp(Bos.tree)

enter image description here

该图显示10倍交叉验证错误从约9个叶节点的树大小开始变平。虚线是曲线的最小值加上1个标准误差,这是修剪决策树的标准经验法则:您选择的最小树尺寸在最小值的1 SE范围内。

打印CP值可以更精确地查看如何选择树大小:

printcp(Bos.tree)

           #CP nsplit rel error  xerror     xstd
#1  0.45274420      0   1.00000 1.00355 0.082973
#2  0.17117244      1   0.54726 0.61743 0.057053
#3  0.07165784      2   0.37608 0.43034 0.046596
#4  0.03616428      3   0.30443 0.34251 0.042502
#5  0.03336923      4   0.26826 0.32642 0.040456
#6  0.02661300      5   0.23489 0.32591 0.040940
#7  0.01585116      6   0.20828 0.29324 0.040908
#8  0.00824545      7   0.19243 0.28256 0.039576
#9  0.00726539      8   0.18418 0.27334 0.037122
#10 0.00693109      9   0.17692 0.27593 0.037326
#11 0.00612633     10   0.16999 0.27467 0.037310
#12 0.00480532     11   0.16386 0.26547 0.036897
# . . .

这表明CP值为0.00612对应于具有10个分裂的树(因此有11个叶子)。这是您用来修剪树的cp的值。所以:

# prune with a value of cp slightly greater than 0.00612633
Bos.tree.cv <- prune(Bos.tree, cp=0.00613)