逻辑回归分类器的Bootstrap聚合（套袋）

Question

所以我在这些样本上采用N个bootstrap样本并训练N个逻辑回归分类器。每个分类器给我一些二进制类的概率，然后我平均这些N个概率来得到最终预测。

我的问题是，如果我采用N组回归系数并对其进行平均并在逻辑回归分类器中使用该平均系数集并将输出概率作为最终预测，这与取平均值相同结果N概率如前一段所述？

Answer 1

答案是否定的，因为逻辑函数是非线性的：1/(1+exp(-a)) + 1/(1+exp(-b))不等于1/(1+exp(-(a+b)))。

但逻辑函数的反函数（也称为log-odds）是线性的（g(x) in this wiki page）。如果您正在计算对数赔率，则可以在装袋程序中对相应的系数（beta0和beta1进行平均）。