我有一个带有整数索引的数据框,session_id,event和time_stamp如下所示:
In [41]: df = pd.DataFrame(data={'session_id': np.sort(np.random.choice(np.arange(3), 11)), 'event': np.random.choice(['A', 'B', 'C', 'D'], 11), 'time_stamp': pd.date_range
...: ('1/1/2017', periods=11, freq='S')}).reset_index(drop=True)
In [42]: df
Out[42]:
event session_id time_stamp
0 B 0 2017-01-01 00:00:00
1 C 0 2017-01-01 00:00:01
2 D 0 2017-01-01 00:00:02
3 B 1 2017-01-01 00:00:03
4 B 1 2017-01-01 00:00:04
5 D 2 2017-01-01 00:00:05
6 B 2 2017-01-01 00:00:06
7 A 2 2017-01-01 00:00:07
8 B 2 2017-01-01 00:00:08
9 B 2 2017-01-01 00:00:09
10 A 2 2017-01-01 00:00:10
我想使用groupby
和lambda
函数计算会话长度,但我想返回一个与原始数据框索引相同的系列对象,因此我可以将其添加为列。这应该可以groupby.transform
这样,但它会返回一个奇怪的"无法将对象转换为numpy datetime"错误:
In [44]: df.groupby('session_id')['time_stamp'].transform(lambda x: x.max() - x.min())
---------------------------------------------------------------------------
ValueError Traceback (most recent call last)
<ipython-input-44-c67ed1d4a90e> in <module>()
----> 1 df.groupby('session_id')['time_stamp'].transform(lambda x: x.max() - x.min())
/Users/hendele/anaconda2/lib/python2.7/site-packages/pandas/core/groupby.pyc in transform(self, func, *args, **kwargs)
2843
2844 indexer = self._get_index(name)
-> 2845 result[indexer] = res
2846
2847 result = _possibly_downcast_to_dtype(result, dtype)
ValueError: Could not convert object to NumPy datetime
我以为我错误地使用了这个,但是当你使用groupby.agg
时,它可以正常使用!
In [43]: df.groupby('session_id')['time_stamp'].agg(lambda x: x.max() - x.min())
Out[43]:
session_id
0 00:00:02
1 00:00:01
2 00:00:05
Name: time_stamp, dtype: timedelta64[ns]
请你解释一下这是不是一个错误,如果不是,我做错了什么?谢谢!
P.S。我不想使用时间戳索引,因为我可能在实际数据中有重复的时间戳。
答案 0 :(得分:1)
为什么agg
有效但transform
失败?
这两种行为之间的区别在于transform()
操作需要返回类似索引的操作。为此,transform
以原始系列的副本开头。然后,在对每个组进行计算之后,将复制的序列的适当元素设置为等于结果。此时进行类型比较,发现timedelta
无法转换为datetime
。 agg()
不执行此步骤,因此不会使类型检查失败。
解决方法:
此分析表明可以解决这个问题。如果transform
的结果为datetime
,则会成功。所以要解决:
base_time = df['time_stamp'][0]
df.groupby('session_id')['time_stamp'].transform(
lambda x: x.max() - x.min() + base_time) - base_time
这是一个Bug吗?
我认为这是一个错误,我计划在早上提出问题。我将在此处更新问题链接。
更新:
我已为此问题提交了bug和pull request。