大熊猫具有日期时间索引的前滚总和

时间:2018-07-31 16:59:13

标签: python pandas

我具有以下简化格式的多元时间序列/面板数据:

id,date,event_ind
1,2014-01-01,0
1,2014-01-02,1
1,2014-01-03,1
2,2014-01-01,1
2,2014-01-02,1
2,2014-01-03,1
3,2014-01-01,0
3,2014-01-02,0
3,2014-01-03,1

对于这个简化的示例,我希望event_ind的未来2天总和按ID分组

由于某种原因,改编此示例仍然会给我“索引不是单调错误”:how to do forward rolling sum in pandas?

这是我的方法,否则在我进行调整之前,它可以按组过去滚动:

df.sort_values(['id','date'], ascending=[True,True], inplace=True)
df.reset_index(drop=True, inplace=True)

df['date'] = pd.DatetimeIndex(df['date'])
df.set_index(['date'], drop=True, inplace=True)

rolling_forward_2_day = lambda x: x.iloc[::-1].rolling('2D').sum().shift(1).iloc[::-1]
df['future_2_day_total'] = df.groupby(['id'], sort=False)['event_ind'].transform(rolling_forward_2_day)
df.reset_index(drop=False, inplace=True)

这是预期的结果:

   id        date  event_ind  future_2_day_total
0   1  2014-01-01          0                   2
1   1  2014-01-02          1                   1
2   1  2014-01-03          1                   0
3   2  2014-01-01          1                   2
4   2  2014-01-02          1                   1
5   2  2014-01-03          1                   0
6   3  2014-01-01          0                   1
7   3  2014-01-02          0                   1
8   3  2014-01-03          1                   0

关于我可能做错了什么或高性能替代品的任何提示都很棒!

编辑:

快速澄清。此示例经过了简化,并且有效的解决方案必须能够处理间隔不均匀/不规则的时间序列,这就是为什么要使用基于时间的索引进行滚动的原因。

1 个答案:

答案 0 :(得分:1)

您仍然可以在此处使用 rolling ,但将其与标记 win_type='boxcar' 结合使用,并在求和前后进行数据移位:

df['future_day_2_total'] = (
    df.groupby('id').event_ind.shift(-1)
    .fillna(0).groupby(df.id).rolling(2, win_type='boxcar')
    .sum().shift(-1).fillna(0)
)

   id        date  event_ind  future_day_2_total
0   1  2014-01-01          0                 2.0
1   1  2014-01-02          1                 1.0
2   1  2014-01-03          1                 0.0
3   2  2014-01-01          1                 2.0
4   2  2014-01-02          1                 1.0
5   2  2014-01-03          1                 0.0
6   3  2014-01-01          0                 1.0
7   3  2014-01-02          0                 1.0
8   3  2014-01-03          1                 0.0