如何计算R中随机森林回归模型的置信水平

时间:2013-07-23 14:14:38

标签: r regression random-forest confidence-interval uncertainty

我在R中使用随机森林(RF)包,目的是预测蛋白质之间的距离(RF的回归模型)和#34;用于同源建模目的"我取得了很好的成绩。但是,我需要有一个置信水平来对我的预测值进行排名并筛选出不良模型,所以我想知道是否有可能计算这样的置信水平,或者是否有任何其他方法来衡量预测的确定性? 任何建议或建议都非常感谢

1 个答案:

答案 0 :(得分:0)

按照此paper中突出显示的jackknife方法获取标准错误后,可以使用软件包ranger中的实现:

library(ranger)
library(mlbench)
data(BostonHousing)

mdl = ranger(medv ~ .,data=BostonHousing[1:400,],keep.inbag = TRUE)

pred = predict(mdl,BostonHousing[401:nrow(BostonHousing),],type="se")

 head(cbind(pred$predictions,pred$se ))
          [,1]     [,2]
[1,] 10.673356 1.107839
[2,] 11.390374 1.102217
[3,] 12.760511 1.126945
[4,] 10.458128 1.100246
[5,] 10.720076 1.084376
[6,]  9.914648 1.102000

置信区间可以估计为1.96 * se。还有一个新的包forestError可用,可以对randomForest对象起作用:

library(randomForest)
library(forestError)
mdl = randomForest(medv ~ .,data=BostonHousing[1:400,],keep.inbag=TRUE)

err = quantForestError(mdl,BostonHousing[1:400,],BostonHousing[401:nrow(BostonHousing),])

head(err$estimates)
       pred     mspe       bias lower_0.05 upper_0.05
1 10.649734 15.70943 -1.5336411   2.935949   12.59486
2 11.611078 15.16339 -1.4436056   3.897293   13.55621
3 12.603938 20.92701 -0.9590869   4.890153   22.32699
4 10.650549 12.42555 -1.4188440   3.941648   12.49029
5 10.414707 29.08155 -1.1438267   2.700922   31.42272
6  9.720305 19.63286 -1.3469671   2.006520   16.43220

有关实际使用的方法,您可以参考此paper