使用CHAID包生产树木时Minbucket无法正常工作

时间:2014-12-01 22:34:01

标签: r tree

我一直在努力确保使用CHAID包中实现的CHAID算法获得的分类树将生成一个树,其终端节点(叶子)的观察数量至少为minbucket。根据chaid过程的描述,可以通过指定chaid_control函数:

来完成
chaid_control(alpha2 = 0.05, alpha3 = -1, alpha4 = 0.05,
              minsplit = 20, minbucket = 7, minprob = 0.01,
              stump = FALSE, maxheight = -1)

这与控制rpart包中的树类似。

尽管如此,设置minbucket参数似乎对结果树的最终形状没有任何影响。这是一个例子:

library("CHAID")
set.seed(290875)
USvoteS <- USvote[sample(1:nrow(USvote), 1000),]
chaid(vote3 ~ ., data = USvoteS)

Model formula:
vote3 ~ gender + ager + empstat + educr + marstat

Fitted party:
[1] root
|   [2] marstat in married
|   |   [3] educr <HS, HS, >HS: Gore (n = 311, err = 49.5%)
|   |   [4] educr in College, Post Coll: Bush (n = 249, err = 35.3%)
|   [5] marstat in widowed, divorced, never married
|   |   [6] gender in male: Gore (n = 159, err = 47.8%)
|   |   [7] gender in female
|   |   |   [8] ager in 18-24, 25-34, 35-44, 45-54: Gore (n = 127, err = 22.0%)
|   |   |   [9] ager in 55-64, 65+: Gore (n = 115, err = 40.9%)

Number of inner nodes:    4
Number of terminal nodes: 5

终端节点3,4,6,8和9分别由311,249,159,127和115个观测值组成。现在,通常,为了限制最小数量的观测,应按如下方式进行:

ctrl <- chaid_control(minbucket = 200)

尽管如此,请调用

chaid(vote3 ~ ., data = USvoteS, control = ctrl)

生成与以前相同的树(而不是具有至少200个观察值的节点的树)。

我不确定在chaid程序的实施过程中是出现错误还是缺少某些内容......

1 个答案:

答案 0 :(得分:2)

每个终端节点中的最小观察数由minbucketminprob控制。前者给出绝对观察次数,后者给出相对频率(相对于当前节点的样本大小)。在内部,每个节点都使用两个量的最小。这对我来说也是违反直觉的,因为我原本期望使用最大值 - 但我没有检查原始CHAID算法是否以这种方式描述。

如果您想确保只有minbucket控制最小节点大小,请设置minbucket = 200, minprob = 1