在包含已排序组的pandas数据框中创建计算列

时间:2018-05-25 10:35:54

标签: python pandas dataframe calculated-columns

假设有一个pandas数据框,其中的行包含一些已排序的分组数据(给定名称的所有值组彼此相邻),我们想引入一个新的计算列来分配值取决于某些列的值。如果第一个值为零,那么如果没有这样的值,则组的所有值都将获得第一个非零值或nan。否则,如果第一个值非零,则分配固定值,例如-1

示例输入数据框:

   name    value
0     a        0
1     a        0
2     a        6
3     a        8
4     b        0
5     b        0
6     c        5
7     c        7

创建calc列的示例输出数据框。

   name    value    calc
0     a        0       6
1     a        0       6      
2     a        6       6
3     a        8       6
4     b        0     nan
5     b        0     nan
6     c        5      -1
7     c        7      -1

我正在考虑的方法是创建一个包含每个组的第一个非零值的查找表,因此对于上面的示例,它将是:

      value
 a        6
 c        5

然后迭代输入数据框并按照上面的逻辑构造值列表,然后将其分配给新列。

2 个答案:

答案 0 :(得分:1)

为了获得更好的性能,最好不要使用groupby,最好是创建最终字典和map

#get all names with 0
contains_zeros = df.loc[df['value'] == 0, 'name'].unique()
print (contains_zeros)
['a' 'b']

#get first non zero values only names with 0
s = df[df['name'].isin(contains_zeros) & (df['value'] != 0)].drop_duplicates('name')
print (s)
  name  value
2    a      6

#first non zero dictionary
d1 = s.set_index('name')['value'].to_dict()
print (d1)
{'a': 6}

#dictionary with all 0 in name
d2 = dict.fromkeys(set(contains_zeros) - set(s['name']), np.nan)
print (d2)
{'b': nan}

#all dictionary without 0
d3 = dict.fromkeys(set(df['name'].unique()) - set(contains_zeros), -1)
print (d3)
{'c': -1}

#merge all together
#https://stackoverflow.com/q/38987
d =  {**d1, **d2, **d3}
print (d)
{'a': 6, 'b': nan, 'c': -1}
df['calc'] = df['name'].map(d)
print (df)
  name  value  calc
0    a      0   6.0
1    a      0   6.0
2    a      6   6.0
3    a      8   6.0
4    b      0   NaN
5    b      0   NaN
6    c      5  -1.0
7    c      7  -1.0

使用groupby的另一个更慢的解决方案:

def f(x):
    if (x== 0).all():
        return np.nan
    elif (x == 0).any():
        return x[x != 0].iloc[0]
    else:
        return -1


df['calc'] = df.groupby('name')['value'].transform(f)
print (df)

  name  value  calc
0    a      0   6.0
1    a      0   6.0
2    a      6   6.0
3    a      8   6.0
4    b      0   NaN
5    b      0   NaN
6    c      5  -1.0
7    c      7  -1.0

答案 1 :(得分:1)

这是使用groupby.transform的一种方式。函数return_val中的替代函数直接反映了您指定的3个条件,并且可以轻松扩展到更多标准。

def return_val(x):
    vals = x.values
    if 0 not in vals:
        return -1
    else:
        return next((i for i in vals if i!=0), np.nan)

df['calc'] = df.groupby('name')['value'].transform(return_val)

print(df)

  name  value  calc
0    a      0   6.0
1    a      0   6.0
2    a      6   6.0
3    a      8   6.0
4    b      0   NaN
5    b      0   NaN
6    c      5  -1.0
7    c      7  -1.0