输出用于训练BaggingClassifier的每个base_estimator的实例子集

时间:2015-05-15 17:19:33

标签: python pandas machine-learning scikit-learn

我正在使用带有BaggingClassifier的决策树桩来分类一些数据:

def fit_ensemble(attributes,class_val,n_estimators):

    # max depth is 1
    decisionStump = DecisionTreeClassifier(criterion = 'entropy', max_depth = 1)

    ensemble = BaggingClassifier(base_estimator = decisionStump, n_estimators = n_estimators, verbose = 3)
    return ensemble.fit(attributes,class_val)

def predict_all(fitted_classifier, instances):
    for i, instance in enumerate(instances):
        instances[i] = fitted_classifier.predict([instances[i]])
    return list(itertools.chain(*instances))

def main(filename, n_estimators):

    df_ = read_csv(filename)

    col_names = df_.columns.values.tolist()
    attributes = col_names[0:-1] ## 0..n-1
    class_val = col_names[-1] ## n

    fitted = fit_ensemble(df_[attributes].values, df_[class_val].values, n_estimators)
    fitted_classifiers = fitted.estimators_ # get the three decision stumps.

    compared_ = DataFrame(index = range(0,len(df_.index)), columns = range(0,n_estimators + 1))
    compared_ = compared_.fillna(0)
    compared_.ix[:,n_estimators] = df_[class_val].values

    for i, fitted_classifier in enumerate(fitted_classifiers):
        compared_.ix[:,i] =  predict_all(fitted_classifier,df_[attributes].values)

我想检查用于训练每个决策树桩的随机子集。我已经查看了集合和决策树类的文档,但是没有找到任何产生训练子集的属性或方法。这是徒劳的任务吗?或者是否有某种方式,也许在树正在训练时输出训练子集?

我对熊猫很新,但来自R背景。我的代码肯定没有优化,但我可以确保数据集对我的任务来说非常小。谢谢您的帮助。

1 个答案:

答案 0 :(得分:0)

看起来我已经回答了我自己的问题。 DecisionTreeClassifier的estimators_samples_属性就是我想要的。