在pandas数据帧中重置索引可以提高预测模型的AUC

时间:2018-03-08 10:40:14

标签: python pandas machine-learning scikit-learn

我的目标是找到预测模型,以确定贷款是否会被偿还。我的来源是一个CSV文件,其特点是贷款以及是否已经偿还。 我使用ROC曲线和AUC评估我的模型的性能

df = pd.read_csv(your_path)
X = df.values 
y = df.defaults
X_train, X_test, y_train, y_test  = train_test_split(X, y, test_size=0.30, 
random_state=7)
log_reg = LogisticRegression()
log_reg.fit(X_train, y_train)
fpr, tpr, thresholds = roc_curve(y_test, y_score)
print(auc(fpr,tpr))

当我计算这段代码时,我获得了大约0.75的AUC分数。

但是当我添加命令行' df = df.reset_index()'如下:

df = pd.read_csv(your_path)
df = df.reset_index()
X = df.values 
y = df.defaults
X_train, X_test, y_train, y_test  = train_test_split(X, y, test_size=0.30, 
random_state=7)
log_reg = LogisticRegression()
log_reg.fit(X_train, y_train)
fpr, tpr, thresholds = roc_curve(y_test, y_score)
print(auc(fpr,tpr))

我的AUC为0.93。它只是增加了没有明显的原因。

为什么重置索引的事实会增加我的模型AUC?

1 个答案:

答案 0 :(得分:2)

按照您的方式重置索引,将索引添加为列。然后,可以在分类器中将此列用作输入要素。您的索引可能会影响预测的准确性。

考虑这个例子df:

         class  max_speed
falcon    bird      389.0
parrot    bird       24.0
lion    mammal       80.5
monkey  mammal        NaN

如果我们这样做

df = df.reset_index()
print(df)

结果数据框看起来像这样。

    index   class   max_speed
0   falcon  bird    389.0
1   parrot  bird    24.0
2   lion    mammal  80.5
3   monkey  mammal  NaN

为防止这种情况发生,您可以这样做:

df = df.reset_index(drop = True)
df

产生了这个数据帧:

    class   max_speed
0   bird    389.0
1   bird    24.0
2   mammal  80.5
3   mammal  NaN

这样,以前的索引不会作为列添加到数据框中。

编辑: 此外,您可以在random_state中设置LogisticRegression()参数,以确保回归量的准确性没有随机影响。