使用xgboost和提前停止功能选择(并使用mlxtend进行功能选择)

时间:2019-04-26 22:34:24

标签: python machine-learning xgboost feature-selection mlxtend

我想针对启用了提前停止功能的xgboost模型进行功能选择(使用SequentialFeatureSelector库中的mlxtend,但可以选择其他选项)

由于early_stoppingfit()函数的参数,而不是模型参数,如果我还需要传递eval_set参数,我该如何通过交叉验证进行特征选择。

以下代码将不起作用,因为我需要传递eval_set参数,但是交叉验证将由SequentialFeatureSelector根据简历索引器选择

SequentialFeatureSelector(xgboostmodel,k_features=2,forward=False,floating=False,scoring='balanced_accuracy',cv=cv).fit(X,y,early_stopping_rounds=5,eval_set = [(Xtest, ytest)])

Xtestytest应该是cv选择的cv

另一个问题是特征选择器将一个一组地删除训练集中的特征,但是eval_set在整个初始特征集合中保持不变。

0 个答案:

没有答案