如何从Scikit-learn中的拟合模型中获取属性列表?

时间:2015-08-27 13:31:21

标签: python scikit-learn artificial-intelligence feature-selection

有没有办法从Scikit-learn中使用的模型中获取功能(属性)列表(或使用过的训练数据的整个表格)? 我正在使用一些预处理功能选择,我想知道选择的功能和删除的功能。例如,我使用随机森林分类器和递归特征消除。

1 个答案:

答案 0 :(得分:0)

所选功能的遮罩存储在' _support' RFE对象的属性。

请参阅此处的文档:http://scikit-learn.org/stable/modules/generated/sklearn.feature_selection.RFE.html#sklearn.feature_selection.RFE

以下是一个例子:

from sklearn.datasets import make_friedman1
from sklearn.feature_selection import RFE
from sklearn.svm import SVR

# load a dataset
X, y = make_friedman1(n_samples=50, n_features=10, random_state=0)

estimator = SVR(kernel="linear")
selector = RFE(estimator, 5, step=1)
X_new = selector.fit_transform(X, y)

print selector.support_ 
print selector.ranking_

将显示:

array([ True,  True,  True,  True,  True,
      False, False, False, False, False], dtype=bool)
array([1, 1, 1, 1, 1, 6, 4, 3, 2, 5]) 

请注意,如果您想在RFE模型中使用随机林分类器,则会收到此错误:

AttributeError: 'RandomForestClassifier' object has no attribute 'coef_'

我在这个帖子中找到了一个workarround:Recursive feature elimination on Random Forest using scikit-learn

你必须像这样覆盖RandomForestClassifier类:

class RandomForestClassifierWithCoef(RandomForestClassifier):
    def fit(self, *args, **kwargs):
        super(RandomForestClassifierWithCoef, self).fit(*args, **kwargs)
        self.coef_ = self.feature_importances_

希望有所帮助:)