构建和执行回归树的计算复杂度是多少？

Question

构建和执行回归树的计算复杂性是多少？对此有任何分析或结论吗？

谢谢！

Answer 1

您可以查看xgboost论文。

  

树学习算法中最耗时的部分是获取   按排序顺序排列的数据。这使得学习的时间复杂化   每棵树O（n log n）。

Answer 2

答案很大程度上取决于选择要分割的最佳属性和分割点的过程。在分析中起关键作用的两个参数：

• 属性数量;
• 培训示例的数量。

昂贵的部分将计算连续属性的最佳分割点（这实质上是离散化），并从要分割的候选属性集中选择最佳属性。

根据我的经验，复杂性通常是属性数量*（表示为a）的二次方，并且在示例数量中表示为线性（表示为n），即O（n * a ^ 2）。

但是，正如我所说，这实际上取决于你的具体情况。如果您想要更具体的答案，请向我们提供更多详细信息。