GridSearchCV中的轮数xgboost

Question

当我使用GridSearchCV和xgboost

执行网格搜索时

kfold = StratifiedKFold(n_splits=3, shuffle=False, random_state=random_state)

model = xgb.XGBClassifier()

grid_search = GridSearchCV(model, param_grid, scoring="roc_auc",
        n_jobs=4, cv=kfold, verbose=1)

GridSearchCV内部使用的轮数是多少？

Answer 1

对此没有好的答案，但最好的策略是使用高数字500/1000或甚至更大的early_stopping_rounds参数。简历将继续，直到它开始过度拟合测试折叠。多数民众赞成你从CV获得足够好的参数（从偏差 - 方差权衡的角度来看）。从本质上讲，虽然你可能会设置太多的提升步骤，但可能会在很多轮次中不会发生提升。