有条件归一化熊猫系列

时间:2019-09-09 09:17:33

标签: python pandas dataframe normalization

我正在使用具有以下结构的DataFrame学习Python /熊猫:

import pandas as pd

df = pd.DataFrame({'key' : [111, 222, 333, 444, 555, 666, 777, 888, 999],
                   'score1' : [-1, 0, 2, -1, 7, 0, 15, 0, 1], 
                   'score2' : [2, 2, -1, 10, 0, 5, -1, 1, 0]})

print(df)

   key  score1  score2
0  111      -1       2
1  222       0       2
2  333       2      -1
3  444      -1      10
4  555       7       0
5  666       0       5
6  777      15      -1
7  888       0       1
8  999       1       0

score1score2系列的可能值为-1和所有正整数(包括0)。

我的目标是通过以下方式对两列进行标准化:

  • 如果该值等于-1,则返回缺少的NaN
  • 否则,按01之间的标度对剩余的正整数进行归一化。

我不想覆盖原始的score1score2系列。相反,我想在两个Series上都应用一个函数来创建两个新列(例如norm1norm2)。

我在这里阅读了几篇推荐使用sklearn预处理模块中的MinMaxScaler()方法的文章。我认为这不是我所需要的,因为我需要一个额外的条件来处理-1值。

我认为我需要的是可以同时应用于两个系列的特定功能。我也熟悉规范化的工作原理,但是在用Python实现此功能时遇到了困难。任何其他帮助将不胜感激。

1 个答案:

答案 0 :(得分:2)

想法将-1值转换为缺失值:

cols = ['score1','score2']
df[cols] = df[cols].mask(df[cols] == -1)

x = df[cols].values
min_max_scaler = preprocessing.MinMaxScaler()
x_scaled = min_max_scaler.fit_transform(x)
df = df.join(pd.DataFrame(x_scaled, columns=cols).add_prefix('norm_'))
print (df)
   key  score1  score2  norm_score1  norm_score2
0  111     NaN     2.0          NaN          0.2
1  222     0.0     2.0     0.000000          0.2
2  333     2.0     NaN     0.133333          NaN
3  444     NaN    10.0          NaN          1.0
4  555     7.0     0.0     0.466667          0.0
5  666     0.0     5.0     0.000000          0.5
6  777    15.0     NaN     1.000000          NaN
7  888     0.0     1.0     0.000000          0.1
8  999     1.0     0.0     0.066667          0.0