熊猫按 2 列条件按聚合数据框分组

时间:2021-01-03 07:48:55

标签: python pandas dataframe

我得到了这个样本 DF :

df = pd.DataFrame({'CUSTOM_CRITERIA':[1111,22222,1111,1212,1212,3333,5555, 1111], 
                'AD_UNIT_NAME':['inp2_l_d', 'inp1', 'pixel_d', 'inp2_l_d', 'anchor_m','anchor_m','anchor_m','inp2_l_d'], 
                'TOTAL_CODE_SERVED_COUNT':[10, 20, 10, 12, 18,500,100,50]})

我需要为每个 custom_criteria 获取最大 total_code_served_count,条件是提供更多代码 -> anchor_m [total_code serve] 或 inp2_l_d[total_code sent] + pixel_d[total_code sent] 对于每个 CUSTOM_CRITERIA

我目前的解决方案如下:

data_dict = clean_data.to_dict(orient='records')

for item in data_dict:
    desktop_impression_max_calculated = sum([d['TOTAL_CODE_SERVED_COUNT'] for d in data_dict if d['CUSTOM_CRITERIA'] == item['CUSTOM_CRITERIA'] and ('inp2_l_d' in d['AD_UNIT_NAME'].lower() or 'pixel_d' in d['AD_UNIT_NAME'].lower())])
    mobile_impression_max_calculated = sum([d['TOTAL_CODE_SERVED_COUNT'] for d in data_dict if d['CUSTOM_CRITERIA'] == item['CUSTOM_CRITERIA'] and 'anchor_m' in d['AD_UNIT_NAME'].lower()])
    item['IMPRESSIONS_MAX'] = max(desktop_impression_max_calculated,mobile_impression_max_calculated)

clean_data = pd.DataFrame(data_dict)   
agg_map = {'IMPRESSIONS_MAX': 'first' }

clean_data = clean_data.groupby('CUSTOM_CRITERIA').agg(agg_map).reset_index()

由于 N^2 的复杂性,当存在大量数据时,这需要很长时间才能运行。 我相信有一种更好、更简单的方法可以用 Pandas 做到这一点。

1 个答案:

答案 0 :(得分:4)

您可以通过将 TOTAL_CODE_SERVED_COUNT 列中的值乘以布尔掩码 m1m2 来创建两个掩码列,然后 groupby {{1} 上的这些掩码列} 并使用CUSTOM_CRITERIA进行聚合,最后沿summax得到最终结果:

axis=1

m1 = df['AD_UNIT_NAME'].str.contains(r'(?i)inp2_l_d|pixel_d')
m2 = df['AD_UNIT_NAME'].str.contains(r'(?i)anchor_m')

pd.DataFrame((df['TOTAL_CODE_SERVED_COUNT'].values * [m1, m2]).T)\
  .groupby(df['CUSTOM_CRITERIA']).sum().max(1).reset_index(name='IMPRESSIONS_MAX')