xgboost无法预测

Question

是否可以获得每棵树的袋外（oob）预测，并绘制某种置信区间。

例如，这是在quantregForest包中实现的：

data(ozone,package="gss")
library(quantregForest)
xozone <- ozone[-1]
yozone <- ozone$upo3
qrfozone <- quantregForest(xozone,yozone)
plot(qrfozone)

Answer 1

我认为这还没有在xgboost中实现。我认为困难在于，在randomForest中，每棵树的权重相等，而在增强方法中，权重是非常不同的。另外，（仍）不是很常见的“包装”xgboost模型，只有这样你才能生成袋子预测（请参阅此处了解如何在xgboost中执行此操作：http://xgboost.readthedocs.io/en/latest/R-package/discoverYourData.html#special-note-what-about-random-forests）。

将来这将是一个很好的工具，可以在xgboost中实现。此外，如果你考虑使用oob预测进行快速调整。