python pandas-删除列中的重复项并根据复杂的条件保留行

时间:2019-06-24 11:54:56

标签: python pandas

假设我有这个DF:

s1 = pd.Series([1,1,2,2,2,3,3,3,4])
s2 = pd.Series([10,20,10,5,10,7,7,3,10])
s3 = pd.Series([0,0,0,0,1,1,0,2,0])
df = pd.DataFrame([s1,s2,s3]).transpose()
df.columns = ['id','qual','nm']
df
   id  qual  nm
0   1    10   0
1   1    20   0
2   2    10   0
3   2     5   0
4   2    10   1
5   3     7   1
6   3     7   0
7   3     3   2
8   4    10   0

我想获得一个没有重复ID的新DF,因此应该有4行ID为1,2,3,4。应根据以下标准选择应保留的行:取最小nm的行,如果相等,则取最大质量的行,如果仍相等,则选择一个。 我认为我的代码应类似于:

df.groupby('id').apply(lambda x: ???)

它应该返回:

   id  qual  nm
0   1    20   0
1   2    10   0
2   3     7   0
3   4    10   0

但是不确定我的函数应该执行什么并返回。
还是有更简单的方法?
谢谢!

2 个答案:

答案 0 :(得分:2)

boolean indexingGroupBy.transform一起使用,以使每组的行数最少,然后获取最大值,如果仍然是重复项,则最后用DataFrame.drop_duplicates将其删除:

#get minimal nm
df1 = df[df['nm'] == df.groupby('id')['nm'].transform('min')]
#get maximal qual    
df1 = df1[df1['qual'] == df1.groupby('id')['qual'].transform('max')]
#if still dupes get first id
df1 = df1.drop_duplicates('id')
print (df1)
   id  qual  nm
1   1    20   0
2   2    10   0
6   3     7   0
8   4    10   0

答案 1 :(得分:0)

使用-

grouper = df.groupby(['id'])
df.loc[(grouper['nm'].transform(min) == df['nm'] ) & (grouper['qual'].transform(max) == df['qual']),:].drop_duplicates(subset=['id'])

输出

   id  qual  nm
1   1    20   0
2   2    10   0
6   3     7   0
8   4    10   0