使用pandas查找时间序列中的重复事件

时间:2015-03-18 17:19:24

标签: python pandas time-series

我有一系列时间事件,我想计算时间序列中每种类型事件的先前非连续出现次数。我想用熊猫做这件事。我可以迭代遍历这些项目,但我想知道是否有一种聪明的方法来做它没有循环。

让它更清晰。请考虑以下时间序列:

dates = pd.date_range('1/1/2011', periods=4, freq='H')
data = ['a', 'a', 'b', 'a']
df = pd.DataFrame(data,index=dates,columns=["event"])

                    event
2011-01-01 00:00:00   a
2011-01-01 01:00:00   a
2011-01-01 02:00:00   b
2011-01-01 03:00:00   a

我想添加一个新列,告诉“事件”列中的每个元素,该元素先前出现过多少次非连续时间。就是这样:

                    event #prev-occurr
2011-01-01 00:00:00   a        0
2011-01-01 01:00:00   a        0
2011-01-01 02:00:00   b        0
2011-01-01 03:00:00   a        1

1 个答案:

答案 0 :(得分:2)

我们还没有对相邻群体提供良好的groupby支持,但我们可以使用shift-compare-cumsum模式,然后使用密集排名来获得所需内容,IIUC:

>>> egroup = (df["event"] != df["event"].shift()).cumsum()
>>> df["prev_occur"] = egroup.groupby(df["event"]).rank(method="dense") - 1
>>> df
                    event  prev_occur
2011-01-01 00:00:00     a           0
2011-01-01 01:00:00     a           0
2011-01-01 02:00:00     b           0
2011-01-01 03:00:00     a           1
2011-01-01 04:00:00     a           1
2011-01-01 05:00:00     b           1
2011-01-01 06:00:00     a           2

这是有效的,因为我们获得了一个连续的事件组计数:

>>> egroup
2011-01-01 00:00:00    1
2011-01-01 01:00:00    1
2011-01-01 02:00:00    2
2011-01-01 03:00:00    3
2011-01-01 04:00:00    3
2011-01-01 05:00:00    4
2011-01-01 06:00:00    5
Freq: H, Name: event, dtype: int64

然后我们可以按事件类型对此进行分组,为我们提供非排名版本:

>>> for k,g in egroup.groupby(df["event"]):
...     print(g)
...     
2011-01-01 00:00:00    1
2011-01-01 01:00:00    1
2011-01-01 03:00:00    3
2011-01-01 04:00:00    3
2011-01-01 06:00:00    5
Name: event, dtype: int64
2011-01-01 02:00:00    2
2011-01-01 05:00:00    4
Name: event, dtype: int64

我们最终可以在密集排名上进行。