绘制决策树分类器

时间:2021-03-19 17:50:02

标签: r decision-tree

在我的 dataset 中,我有一个二进制 Target(0 或 1)变量和 8 个特征:ncharrtcTmean、{{ 1}}、week_dayhourntagsnlinksnex 是一个因子,而其他的是数字。我正在尝试构建决策树分类器:

week_day

绘图结果如下:

enter image description here

我有三个问题不知道答案:

  1. 为什么图中缺少某些变量? (例如library(caTools) set.seed(123) split = sample.split(dataset$Target, SplitRatio = 0.75) training_set = subset(dataset, split == TRUE) test_set = subset(dataset, split == FALSE) # Feature Scaling training_set[-c(2,4)] = scale(training_set[-c(2,4)]) test_set[-c(2,4)] = scale(test_set[-c(2,4)]) # Fitting Decision Tree Classification to the Training set # install.packages('rpart') library(rpart) classifier = rpart(formula = Target ~ ., data = training_set) # Predicting the Test set results y_pred = predict(classifier, newdata = test_set[-2], type = 'class') # Making the Confusion Matrix cm = table(test_set[, 2], y_pred) plot(classifier, uniform=TRUE,margin=0.2)
  2. rtc 中的 aefg 是什么意思?
  3. 有没有办法描述 不同的类(week_day 变量为 0 对 1)?例如: 在 Target 中,我们拥有所有具有 Target=1nchar>0.19

1 个答案:

答案 0 :(得分:3)

这里解释了一些您可以在包 rpart 中获取的数据:

library(rpart)   # for decision tree
library(rattle)  # to do a nicer plot

 progstat <- factor(stagec$pgstat, levels = 0:1, labels = c("No", "Prog"))
 cfit     <- rpart(progstat ~  age + eet + g2 + grade + gleason + ploidy,
                   data = stagec,
                   method ='class')

问题 1:为什么有些变量会消失?
因为这些变量对您的模型没有用处,或者说更好,您已经告诉您的模型不要在参数 cp 下获取变量(默认值 = 0.01)。
查看 the doccp 参数:

<块引用>

(...)本质上,用户通知程序任何不 通过 cp 提高拟合可能会通过交叉验证被修剪掉, 因此程序不需要追求它。

我认为文档在技术上比我解释得更好,如果我必须用简单的话来告诉它,cp 参数设置节点的“效用”基线。
如果节点由一个无用的变量构成,它被删除,所以无用的(阅读:变量在模型中没有进一步的信息)变量不会出现。尝试在您的模型中设置参数,您将看到它是如何变化的。就我而言,eet 变量已失效。
发送这个:

 summary(cfit)
Call:
rpart(formula = progstat ~ age + eet + g2 + grade + gleason + 
    ploidy, data = stagec, method = "class")
  n= 146 

          CP nsplit rel error    xerror      xstd
1 0.10493827      0 1.0000000 1.0000000 0.1080241
2 0.05555556      3 0.6851852 1.0555556 0.1091597
3 0.02777778      4 0.6296296 0.9629630 0.1071508
4 0.01851852      6 0.5740741 0.9629630 0.1071508
5 0.01000000      7 0.5555556 0.9814815 0.1075992

Variable importance
     g2   grade gleason  ploidy     age     eet 
     30      28      20      13       7       2 

(... it continues...)

您可以看到 eet 是最不重要的。

问题 2aefg 中的 week_day 是什么意思?
这意味着拆分是由左侧的一些 week_day 和右侧的一些进行的。它应该是一个分类变量。
尝试使用这个,而不是经典情节:

fancyRpartPlot(cfit, caption = NULL)

enter image description here

可以看到倍体和四倍体被送到左边,另一个在右边。来自here

<块引用>

(...)树的排列使得“更严重”的节点去往 对

问题 3:有没有办法描述不同的类(目标变量为 0 对 1)?
在这种情况下,变量是 progstat,但您可以将解释传输到您的变量中。
这就是我在图中读取这些结果的一般方式:

查看第一个节点(最重要的):它告诉我们 63% 是“否”,37% 是“prog”(读是)。该节点覆盖了 100% 的人口。

第二个最重要的节点是 2,接收的变量是 grade < 2.5。否则,您将进入节点三。

如果你往左边走,你就有 42% 的人口。该人群的标签是No,但是,85%的人群是真实的No,其余的都是错误的No。

TL;DR
这意味着“总体人口分为 No 和 Prog,分别为 63% 和 27%。
如果变量 grade < 2.5,模型表明在我们的数据中,42% 的人口具有grade 的那个值,其中 42%,85% 的结果为 No。可能 grade 和因变量“no”的结果是绑定的”。
通过这种方式,您可以检查图中的所有节点,还可以使用 summary() 查看最重要的模式。

在你的情节中,你可以说“如果 ntags > 1.952 和 nchar < 0.1449,那么我有一个 0。