熊猫有条件地根据先前的行计算列

时间:2020-05-02 19:10:35

标签: python pandas

我有一个这样的熊猫数据框:

                       date_open               date_closed       rate
id                                                                   
284113 2020-02-21 08:47:00+00:00 2020-03-04 08:55:28+00:00  11.588895
284114 2020-02-21 08:47:05+00:00 2020-03-04 08:55:22+00:00  11.588895
284115 2020-02-21 08:47:09+00:00 2020-03-04 08:55:13+00:00  11.588895
284116 2020-02-21 08:47:13+00:00 2020-03-04 08:55:07+00:00  11.559593
284117 2020-02-21 08:47:17+00:00 2020-03-04 08:53:11+00:00  11.530291
                          ...                       ...        ...
373069 2020-04-22 16:31:30+00:00 2020-04-30 17:25:55+00:00   3.481590
373070 2020-04-22 16:31:35+00:00 2020-04-30 17:25:23+00:00   3.510351
373071 2020-04-22 16:31:40+00:00 2020-04-30 17:24:25+00:00   3.529525
381966 2020-04-30 17:26:11+00:00 2020-04-30 17:28:43+00:00  -0.162813
381969 2020-04-30 17:26:49+00:00 2020-04-30 17:28:30+00:00  -0.181308
[131 rows x 3 columns]

我想添加一个名为efficiency的列。

每一行都应将efficiency计算为rate s> 0的总和除以rate s <= 0,其中date_closed < =当前行的date_open

在python代码中(假设是字典列表而不是数据框),我将实现以下结果:

for element in list_of_dicts:
   positive_rates = sum(list(filter(lambda x: x['rate'] > 0 and x['date_closed'] < element['date_open'], list_of_dicts)))
   negative_rates = sum(list(filter(lambda x: x['rate'] < 0 and x['date_closed'] < element['date_open'], list_of_dicts)))
   element['efficiency'] = postitive_rates / negative_rates

任何帮助将不胜感激。谢谢。

1 个答案:

答案 0 :(得分:0)

我可以想到两种解决此问题的方法,一种在速度方面更好,另一种在内存方面。

第一个:创建新列group,执行外部merge,使用mask进行过滤,按id分组,将lambda函数应用于分组的数据帧,然后分配结果:

df['group'] = 1
df_merge = df.reset_index().merge(df[['date_closed', 'rate', 'group']],
                                  how='outer', on='group')

mask = df_merge['date_open'] >= df_merge['date_closed_y']

results = df_merge[mask].groupby('id')
          .apply(lambda df: df[df.rate_y > 0].rate_y.sum() /
                df[df.rate_y <= 0].rate_y.sum())

df['efficiency'] = results

第二个:只需对每一行使用apply函数:

df['efficiency'] = df.apply(lambda x:
     df[(df.date_closed <= x.date_open) & (df.rate > 0)].rate.sum()
     / df[(df.date_closed <= x.date_open) & (df.rate <= 0)].rate.sum(), axis=1)