我正在使用软件包randomForest
来生成物种的栖息地适应性模型。我以为一切都会正常进行,直到我开始使用getTree()
查看单个树为止。文档(see page 4 of the randomForest vignette)指出,对于分类变量,分割点将为整数,这是有意义的。但是,在我寻找结果的树木中,情况并非如此。
我用于构建模型的数据框已使用分类变量作为因子进行了格式化:
> str(df.full)
'data.frame': 27087 obs. of 23 variables:
$ sciname : Factor w/ 2 levels "Laterallus jamaicensis",..: 1 1 1 1 1 1 1 1 1 1 ...
$ estid : Factor w/ 2 levels "7694","psabs": 1 1 1 1 1 1 1 1 1 1 ...
$ pres : Factor w/ 2 levels "1","0": 1 1 1 1 1 1 1 1 1 1 ...
$ stratum : Factor w/ 89 levels "poly_0","poly_1",..: 1 1 1 1 1 1 1 1 1 1 ...
$ ra : Factor w/ 3 levels "high","low","medium": 3 3 3 3 3 3 3 3 3 3 ...
$ eoid : Factor w/ 2 levels "0","psabs": 1 1 1 1 1 1 1 1 1 1 ...
$ avd3200 : num 0.1167 0.0953 0.349 0.1024 0.3765 ...
$ biocl05 : num 330 330 330 330 330 ...
$ biocl06 : num 66 65.8 66 65.8 66 ...
$ biocl08 : num 277 277 277 277 277 ...
$ biocl09 : num 170 170 170 170 170 ...
$ biocl13 : num 186 186 185 186 185 ...
$ cti : num 19.7 19 10.4 16.4 14.7 ...
$ dtnhdwat : num 168 240 39 206 309 ...
$ dtwtlnd : num 0 0 0 0 0 0 0 0 0 0 ...
$ e2em1n99 : num 0 0 0 0 0 0 0 0 0 0 ...
$ ems30_53 : Factor w/ 53 levels "0","602","2206",..: 19 4 17 4 19 19 4 4 19 19 ...
$ ems5607_46: num 0 0 1 0 0.4 ...
$ ksat : num 0.21 0.21 0.21 0.21 0.21 ...
$ lfevh_53 : Factor w/ 53 levels "0","11","16",..: 38 38 38 38 38 38 38 38 38 38 ...
$ ned : num 1.46 1.48 1.54 1.48 1.47 ...
$ soilec : num 14.8 14.8 19.7 14.8 14.8 ...
$ wtlnd_53 : Factor w/ 50 levels "0","3","7","11",..: 4 31 7 31 7 31 7 7 31 31 ...
这是函数调用:
# rfStratum and sampSizeVec were previously defined
> rf.full$call
randomForest(x = df.full[, c(7:23)], y = df.full[, 3],
ntree = 2000, mtry = 7, replace = TRUE, strata = rfStratum,
sampsize = sampSizeVec, importance = TRUE, norm.votes = TRUE)
这是示例树的前15行(请注意,第1、5和15行中的变量应该是分类的,即它们应该具有整数分割值):
> tree100
left daughter right daughter split var split point status prediction
1 2 3 ems30_53 9.007198e+15 1 <NA>
2 4 5 biocl08 2.753206e+02 1 <NA>
3 6 7 biocl06 6.110518e+01 1 <NA>
4 8 9 biocl06 1.002722e+02 1 <NA>
5 10 11 lfevh_53 9.006718e+15 1 <NA>
6 0 0 <NA> 0.000000e+00 -1 0
7 12 13 biocl05 3.310025e+02 1 <NA>
8 14 15 ned 2.814818e+00 1 <NA>
9 0 0 <NA> 0.000000e+00 -1 1
10 16 17 avd3200 4.199712e-01 1 <NA>
11 18 19 e2em1n99 1.724138e-02 1 <NA>
12 20 21 biocl09 1.738916e+02 1 <NA>
13 22 23 ned 8.837864e-01 1 <NA>
14 24 25 biocl05 3.442437e+02 1 <NA>
15 26 27 lfevh_53 9.007199e+15 1 <NA>
其他信息:我遇到此问题是因为我正在调查将结果重新预测到研究区域时遇到的错误,该错误表明新数据中的预测变量类型与数据中的预测变量类型不匹配。训练数据。我使用相同的数据框和脚本(只是使用不同的预测变量子集)完成了该模型的其他6次迭代,而且从未得到此消息。我唯一能发现的是,与其他运行相比,本次运行中的randomforest对象之间的差异是the rf.full$forest$ncat
组件存储为双精度而不是整数
> for(i in 1:length(rf.full$forest$ncat)){
+ cat(names(rf.full$forest$ncat)[[i]], ": ", class(rf.full$forest$ncat[[i]]), "\n")
+ }
avd12800 : numeric
cti : numeric
dtnhdwat : numeric
dtwtlnd : numeric
ems2207_99 : numeric
ems30_53 : numeric
ems5807_99 : numeric
hydgrp : numeric
ksat : numeric
lfevh_53 : numeric
ned : numeric
soilec : numeric
wtlnd_53 : numeric
>
> rf.full$forest$ncat
avd12800 cti dtnhdwat dtwtlnd ems2207_99 ems30_53 ems5807_99 hydgrp ksat lfevh_53
1 1 1 1 1 53 1 1 1 53
ned soilec wtlnd_53
1 1 50
但是,xlevels(似乎是所使用的预测变量及其类型的列表)都显示了每个预测变量的正确数据类型。
> for(i in 1:length(rf.full$forest$xlevels)){
+ cat(names(rf.full$forest$xlevels)[[i]], ": ", class(rf.full$forest$xlevels[[i]]),"\n")
+ }
avd12800 : numeric
cti : numeric
dtnhdwat : numeric
dtwtlnd : numeric
ems2207_99 : numeric
ems30_53 : character
ems5807_99 : numeric
hydgrp : character
ksat : numeric
lfevh_53 : character
ned : numeric
soilec : numeric
wtlnd_53 : character
# example continuous predictor
> rf.full$forest$xlevels$avd12800
[1] 0
# example categorical predictor
> rf.full$forest$xlevels$ems30_53
[1] "0" "602" "2206" "2207" "4504" "4507" "4702" "4704" "4705" "4706" "4707" "4717" "5207" "5307" "5600"
[16] "5605" "5607" "5616" "5617" "5707" "5717" "5807" "5907" "6306" "6307" "6507" "6600" "7002" "7004" "9107"
[31] "9116" "9214" "9307" "9410" "9411" "9600" "4607" "4703" "6402" "6405" "6407" "6610" "7005" "7102" "7104"
[46] "7107" "9000" "9104" "9106" "9124" "9187" "9301" "9505"
ncat组件只是每个变量的类别数的向量,连续变量(as noted here)为1,因此存储为整数或双精度数似乎并不重要,但似乎这可能全部相关。
问题
1)不应该在randomForest森林的任何给定树中的类别预测变量的分割点是整数,并且如果是,则关于为什么用作此处randomForest调用输入的数据帧中的因素的任何想法都不应被这样使用吗?
2)randomForest对象的ncat组件的数字类型(双精度与整数)在任何与模型构建有关的方式上是否重要,以及关于可能导致其从前6个整数转换为整数的任何想法。在最后一次运行中加倍(每次运行包含相同数据的不同子集)?
答案 0 :(得分:1)
randomforest::randomForest
算法以不同的方式对低基数(最多32个类别)和高基数(32到64?个类别)的分类编码。请注意-您所有的“问题性”功能都属于后者,并使用64位浮点值进行编码。
尽管控制台输出对人类观察者没有意义,但是randomForest
模型对象/算法本身是正确的(即,将这些变量视为分类变量),并且做出了正确的预测。
如果要研究决策树和决策树集成模型的结构,则可以考虑将其导出为PMML数据格式。例如,您可以为此使用R2PMML包:
library("r2pmml")
r2pmml(rf.full, "MyRandomForest.pmml")
然后,在文本编辑器中打开MyRandomForest.pmml,您将对模型的内部(分支,分割条件,叶值等)有一个很好的了解。