进行机器学习时如何保留行的唯一ID?

时间:2018-12-05 02:15:56

标签: python pandas machine-learning

我有一个数据集X,其中包含一个ID列,一些其他功能和一个目标列。我正在执行分类任务,在对测试集进行分类之后,我想查看哪个ID属于哪个类。

因此,我执行以下操作:

import pandas as pd
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import train_test_split

df = pd.read_csv('Dataset.csv')

X = df.drop(['ID', 'Target_Feature'], axis=1)
Y = df[['ID', 'Target_Feature']]

X_train, X_test, Y_train, Y_test = train_test_split(X, Y, test_size=0.33)
pol_ids = Y_test.ID ### Save the IDs of the test set to append to a new dataframe later

Y_train = Y_train.drop(['ID'], axis=1).values
Y_test = Y_test.drop(['ID'], axis=1).values

logReg = LogisticRegression()
logReg.fit(X_train, Y_train)
logReg.score(X_train, Y_train)

>>> 0.6300364252164744

predictions = logReg.predict(X_test)
predictions

>>> array([1, 0, 0, ..., 0, 1, 0], dtype=int64)

然后,我执行以下操作以使用ID列和预测来构建新的数据框:

y_pred = logReg.predict_proba(X_test)

df1 = pd.DataFrame(pol_ids)
df1 = df1.reset_index(drop=True)
df2 = pd.DataFrame(y_pred[:,1])
df1['Predictions']=df2
df1['Name']=df.loc[df1.index]['Name'].values   ### This is one of the columns in the original dataframe

但是,当我检查原始数据帧df中的行是否具有给定的ID时,其名称在新数据帧df1中是不同的。这很可能意味着ID没有正确复制到新的数据框中。

那我该怎么办?

1 个答案:

答案 0 :(得分:1)

检查最后一行

df1['Name']=df.loc[df1.index]['Name'].values 

reset_index之后,索引已更改,因此更改为

df1['Name']=df.loc[pol_ids.index]['Name'].values