XGBoost简历和提前停止

时间:2016-06-18 06:14:21

标签: python scikit-learn cross-validation xgboost

我试图在早期停止时使用XGBoost.cv,基于mlogloss:

params = {'booster': 'gbtree', 'objective': 'multi:softprob',
          'num_class': len(le.classes_), 'eta': 0.1,
          'max_depth': 10, 'subsample': 1.0,
          'scale_pos_weight': 1, 'min_child_weight': 5,
          'colsample_bytree': 0.2, 'gamma': 0, 'reg_alpha': 0,
          'reg_lambda': 1, 'eval_metric': 'mlogloss'}

res = xgb.cv(params, dm_train, nfold=5,
        seed=42, early_stopping_rounds=10, verbose_eval=True,
        metrics={'mlogloss'}, show_stdv=False)

print(res)

我对早期停止的理解是,如果我的eval指标在n轮中没有改善(在这种情况下为10),则运行将终止。当我运行此代码时,它会在10轮后终止,打印输出:

test-mlogloss-mean            
0:             6.107054               
1:             5.403606                    
2:             4.910938                   
3:             4.546221                    
4:             4.274113                  
5:             4.056968                  
6:             3.876368               
7:             3.728714                       
8:             3.599812                  
9:             3.485113                  

Test-mlogloss随着每个时代而下降,因此,我预计运行不会终止(因为准确性必须提高)。我哪里错了?

感谢。

1 个答案:

答案 0 :(得分:1)

我没有设置num_rounds参数,默认为10.简单。