悲观和乐观修剪决策树有什么区别？

Question

我正在尝试了解决策树修剪方法。我尝试了几种来源，但都没有阐明悲观和乐观修剪的工作方式。请帮助我理解。

Answer 1

悲观修剪从最初的过程开始构建DC序列，并在每个步骤中删除一条规则，以使其删除在所有可能的删除中带来的错误最少。修剪将返回误差最小的最小树。故名悲观主义者。该方法尝试观察所有事物并检查可能发生的最坏情况并避免这种情况。

在乐观修剪中，DT的每个内部节点仅以自底向上的方式进行了一次测试，并且在到达该节点的示例中估计了局部误差。如果删除后的本地错误不大于之前的本地错误加上惩罚项，则将删除节点及其子树。这会导致过度修剪，因此该方法变得乐观，即将是一种更好的思维方式。

关于这两个主题的文章都提到了这两个方面的公式，以及这些公式中术语的含义。