何时使用回归树/森林?

时间:2016-01-22 23:00:08

标签: machine-learning regression svm random-forest decision-tree

因为我正在为我的问题寻找一个精细的回归算法。我发现用简单的决策树也可以做到这一点,通常用于分类。输出将类似于:

taken from otexts.org

红色噪声将是这种树或森林的预测状态。

现在我的问题是,为什么要使用这种方法,当有替代方案时,真正试图找出基础方程(例如着名的支持向量机 SVM)。是否有任何积极/独特的方面,或者回归树更像是一个很好的算法?

1 个答案:

答案 0 :(得分:2)

您发布的图片在y中传达了x的平滑功能。回归树当然不是估计这种函数的最佳技术,我可能也不会使用SVM。这看起来像样条曲线的良好应用,例如,通过使用GAM(广义加性模型)。

另一方面,回归树是一个方便的工具,如果你没有这样的平滑功能,并且你不知道哪个解释变量会对响应产生什么影响。如果响应或交互中有跳跃会特别有用 - 特别是如果事先不知道跳跃点和交互模式。