我有一些来自日志文件的数据,并希望按分钟对条目进行分组:
def gen(date, count=10):
while count > 0:
yield date, "event{}".format(randint(1,9)), "source{}".format(randint(1,3))
count -= 1
date += DateOffset(seconds=randint(40))
df = DataFrame.from_records(list(gen(datetime(2012,1,1,12, 30))), index='Time', columns=['Time', 'Event', 'Source'])
DF:
Event Source
2012-01-01 12:30:00 event3 source1
2012-01-01 12:30:12 event2 source2
2012-01-01 12:30:12 event2 source2
2012-01-01 12:30:29 event6 source1
2012-01-01 12:30:38 event1 source1
2012-01-01 12:31:05 event4 source2
2012-01-01 12:31:38 event4 source1
2012-01-01 12:31:44 event5 source1
2012-01-01 12:31:48 event5 source2
2012-01-01 12:32:23 event6 source1
我尝试了以下选项:
df.resample('Min')
级别太高,想要聚合。df.groupby(date_range(datetime(2012,1,1,12, 30), freq='Min',
periods=4))
失败,但有例外。 df.groupby(TimeGrouper(freq='Min'))
正常工作并返回DataFrameGroupBy
个对象进行进一步处理,例如:
grouped = df.groupby(TimeGrouper(freq='Min'))
grouped.Source.value_counts()
2012-01-01 12:30:00 source1 1
2012-01-01 12:31:00 source2 2
source1 2
2012-01-01 12:32:00 source2 2
source1 2
2012-01-01 12:33:00 source1 1
但是,TimeGrouper
类没有记录。
在一段时间内分组的正确方法是什么?如何按一分钟和按来源列对数据进行分组,例如: groupby([TimeGrouper(freq='Min'), df.Source])
?
答案 0 :(得分:45)
您可以对与DataFrame长度相同的任何数组/系列进行分组 - 甚至是实际上不是DataFrame列的计算因子。因此,您可以按分钟分组:
df.groupby(df.index.map(lambda t: t.minute))
如果您想按分钟分组,只需将上面的内容与您要使用的列混合:
df.groupby([df.index.map(lambda t: t.minute), 'Source'])
我个人认为,如果我想经常对它们进行分组,那么只需将列添加到DataFrame来存储这些计算的东西(例如,“Minute”列)就很有用,因为它会使分组代码不那么冗长。 / p>
或者您可以尝试这样的事情:
df.groupby([df['Source'],pd.TimeGrouper(freq='Min')])
答案 1 :(得分:8)
由于原来的答案相当陈旧,并且引入了大熊猫periods 现在有一个不同的解决方案:
df.groupby(df.index.to_period('T'))
此外,您可以resample
df.resample('T')
答案 2 :(得分:4)
pd.TimeGrouper现在已折旧。这是使用pd.Grouper
的v1.05更新df['Date'] = df.index
df.groupby(['Source',pd.Grouper(key = 'Date', freq='30min')])