使用2个分类器进行集成学习

时间:2014-07-03 01:59:04

标签: python machine-learning scikit-learn

我正在尝试将两种方法结合起来对数据进行分类,一种来自SVM,另一种来自外部分类器,它给出一个或多个标签,说明它认为观察点是什么。是否有可能让这两个分类器一起工作?与增强功能类似。

我注意到在scikit的adaboost实现中,它只接受一种类型的分类器。此外,我给出的第一个分类器,它给出了一个或多个标签,没有任何与之相关的“权重”。我该怎么做?

1 个答案:

答案 0 :(得分:3)

有一种称为堆叠泛化的技术,它基本上取任何K分类器的输出并在此基础上训练第二层分类器 - 因此第二层分类器的输入是第一层分类器的输出。您可以使用交叉验证和平均标签预测,或者使用predict_proba输出或其他指标。

关于此的一个很好的介绍性链接是here