为什么带有SVM的AdaBoostClassifier工作更糟

Question

通过更糟糕的工作，我的意思是更高的训练错误。

# Boosted SVC
clf = AdaBoostClassifier(base_estimator=SVC(random_state=1), random_state=1, algorithm="SAMME", n_estimators=5)
clf.fit(X, y)

# Only SVC
clf = SVC()
clf.fit(X, y)

我的训练数据是

提升SVM的结果：

SVM的结果：

Answer 1

adaBoost的主要概念是结合弱学习者，这就是为什么默认分类器是一个决策残余。因此，通过使用SVM（强分类器）作为弱分子，您正在失去集成学习的概念，并且您获得了最差的结果。