有没有办法从Scikit-learn中使用的模型中获取功能(属性)列表(或使用过的训练数据的整个表格)? 我正在使用一些预处理功能选择,我想知道选择的功能和删除的功能。例如,我使用随机森林分类器和递归特征消除。
答案 0 :(得分:0)
所选功能的遮罩存储在' _support' RFE对象的属性。
以下是一个例子:
from sklearn.datasets import make_friedman1
from sklearn.feature_selection import RFE
from sklearn.svm import SVR
# load a dataset
X, y = make_friedman1(n_samples=50, n_features=10, random_state=0)
estimator = SVR(kernel="linear")
selector = RFE(estimator, 5, step=1)
X_new = selector.fit_transform(X, y)
print selector.support_
print selector.ranking_
将显示:
array([ True, True, True, True, True,
False, False, False, False, False], dtype=bool)
array([1, 1, 1, 1, 1, 6, 4, 3, 2, 5])
请注意,如果您想在RFE模型中使用随机林分类器,则会收到此错误:
AttributeError: 'RandomForestClassifier' object has no attribute 'coef_'
我在这个帖子中找到了一个workarround:Recursive feature elimination on Random Forest using scikit-learn
你必须像这样覆盖RandomForestClassifier类:
class RandomForestClassifierWithCoef(RandomForestClassifier):
def fit(self, *args, **kwargs):
super(RandomForestClassifierWithCoef, self).fit(*args, **kwargs)
self.coef_ = self.feature_importances_
希望有所帮助:)