如果我从say，randomforest，gbm，svm，nnet生成预测以获得更准确的预测，我如何组合结果（预测）？

Question

更具体地说，如何通过创建合奏来改进我的预测？我的意思是我知道我们对来自不同算法（随机森林，nnet，gbm，svm）的结果（预测）进行回归。但是我们怎么做呢？

Answer 1

您可以采取许多不同的方法来解决这个问题。一种方法是训练一个新的顶级模型，该输入将是所有其他技术输出的矢量。

解决此问题的另一种方法是使用支持向量机常用的方法来解决多类问题。

这种方法类似于每个模型之间的锦标赛匹配，其中所有输出都在它们之间进行比较以选择获胜者。通常这是使用“一对一”或“一对一”的两种策略中的一种来完成的（这是一篇比较它们的文章http://www.researchgate.net/publication/228643199_One_Against_One_or_One_Against_All_Which_One_is_Better_for_Handwriting_Recognition_with_SVMs）

这些是我的想法，但我很确定你能找到很多新方法来解决这个问题。