Question

我正在使用scikit learn进行多标签分类。我使用RandomForestClassifier作为基本估算器。我想使用GridSearchCV为每个标签优化它的参数。目前我正在以下列方式进行：

from sklearn.ensemble import RandomForestClassifier
from sklearn.multiclass import OneVsRestClassifier
from sklearn.grid_search import GridSearchCV

parameters = {
  "estimator__n_estimators": [5, 50, 200],
  "estimator__max_depth" : [None, 10,20],
  "estimator__min_samples_split" : [2, 5, 10],
}
model_to_tune = OneVsRestClassifier(RandomForestClassifier(random_state=0,class_weight='auto'))
model_tuned = GridSearchCV(model_to_tune, param_grid=params, scoring='f1',n_jobs=2)
print model_tuned.best_params_
{'estimator__min_samples_split': 10, 'estimator__max_depth': None, 'estimator__n_estimators': 200}

考虑到所有标签，这些参数可以提供最佳的f1分数。我想分别为每个标签找到参数。是否有内置功能可以做到这一点？

Answer 1

这并不难做到，虽然它不是内置的，但我不确定我理解你为什么要这样做。

简单地预处理您的数据，如下所示：

for a_class in list_of_unique_classes:
    y_this_class = (y_all_class==a_class)
    model_to_tune = RandomForestClassifier(random_state=0,class_weight='auto')
    model_tuned = GridSearchCV(model_to_tune, param_grid=params, scoring='f1',n_jobs=2)
    model_tuned.fit( X, y_this_class )

    # Save the best parameters for this class

（另外，要注意f1得分，它不能很好地描述偏斜数据集的分类器的性能。你想使用ROC曲线和/或informedness）。

GridSearchCV分别用于每个标签的多标签分类

1 个答案: