聚合时间戳数据的更好方法是什么?

时间:2013-11-06 17:15:59

标签: python pandas ipython

我正在处理非统一收集的时间戳索引数据,并最终将按每小时每小时计算统计数据。我想知道按时间段聚合的最佳方式是什么。

我目前计算两个lambda函数,然后在数据框中添加两列,如下所示:

h = lambda i: pd.to_datetime(i.strftime('%Y-%m-%d %H:00:00'))
m = lambda i: pd.to_datetime(i.strftime('%Y-%m-%d %H:%M:00'))
df['hours'] = df.index.map(h)
df['minutes'] = df.index.map(m)

这使我可以轻松地与groupby进行汇总,如下所示:

by_hour = df.groupby('hours')

我确信有更好或更多的pythonic方法可以做到这一点,但我没有想出来,并希望得到任何帮助。

1 个答案:

答案 0 :(得分:3)

你有几个熊猫的选择。对于简单统计,您可以在具有日期时间索引的DataFrame / Series上使用resample方法。

In [35]: ts
Out[35]: 
2012-01-01 00:00:00    127
2012-01-01 00:00:01    452
2012-01-01 00:00:02    231
2012-01-01 00:00:03    434
2012-01-01 00:00:04    139
2012-01-01 00:00:05    223
2012-01-01 00:00:06    409
2012-01-01 00:00:07    101
2012-01-01 00:00:08      3
2012-01-01 00:00:09    393
2012-01-01 00:00:10    208
2012-01-01 00:00:11    416
2012-01-01 00:00:12    136
2012-01-01 00:00:13    343
2012-01-01 00:00:14    387
...
2012-01-01 00:01:25    307
2012-01-01 00:01:26    267
2012-01-01 00:01:27    199
2012-01-01 00:01:28    479
2012-01-01 00:01:29    423
2012-01-01 00:01:30    334
2012-01-01 00:01:31    442
2012-01-01 00:01:32    282
2012-01-01 00:01:33    289
2012-01-01 00:01:34    166
2012-01-01 00:01:35      4
2012-01-01 00:01:36    306
2012-01-01 00:01:37    165
2012-01-01 00:01:38    415
2012-01-01 00:01:39    316
Freq: S, Length: 100

In [37]: ts.resample('t', how='mean')
Out[37]: 
2012-01-01 00:00:00    270.166667
2012-01-01 00:01:00    221.400000
Freq: T, dtype: float64

为了获得更大的灵活性,您可以按时间戳对象的hour(或分钟,秒等)属性进行分组:

In [38]: g = ts.groupby(lambda x: x.minute)

In [39]: g
Out[39]: <pandas.core.groupby.SeriesGroupBy object at 0x107045150>

查看有关重新取样的文档:http://pandas.pydata.org/pandas-docs/dev/timeseries.html#up-and-downsampling