groupby转换中的熊猫时间戳差异

时间:2017-02-15 21:52:13

标签: python pandas numpy timestamp split-apply-combine

我有一个带有整数索引的数据框,session_id,event和time_stamp如下所示:

In [41]: df = pd.DataFrame(data={'session_id': np.sort(np.random.choice(np.arange(3), 11)), 'event': np.random.choice(['A', 'B', 'C', 'D'], 11), 'time_stamp': pd.date_range
    ...: ('1/1/2017', periods=11, freq='S')}).reset_index(drop=True)

In [42]: df
Out[42]:
   event  session_id          time_stamp
0      B           0 2017-01-01 00:00:00
1      C           0 2017-01-01 00:00:01
2      D           0 2017-01-01 00:00:02
3      B           1 2017-01-01 00:00:03
4      B           1 2017-01-01 00:00:04
5      D           2 2017-01-01 00:00:05
6      B           2 2017-01-01 00:00:06
7      A           2 2017-01-01 00:00:07
8      B           2 2017-01-01 00:00:08
9      B           2 2017-01-01 00:00:09
10     A           2 2017-01-01 00:00:10

我想使用groupbylambda函数计算会话长度,但我想返回一个与原始数据框索引相同的系列对象,因此我可以将其添加为列。这应该可以groupby.transform这样,但它会返回一个奇怪的"无法将对象转换为numpy datetime"错误:

In [44]: df.groupby('session_id')['time_stamp'].transform(lambda x: x.max() - x.min())
---------------------------------------------------------------------------
ValueError                                Traceback (most recent call last)
<ipython-input-44-c67ed1d4a90e> in <module>()
----> 1 df.groupby('session_id')['time_stamp'].transform(lambda x: x.max() - x.min())

/Users/hendele/anaconda2/lib/python2.7/site-packages/pandas/core/groupby.pyc in transform(self, func, *args, **kwargs)
   2843
   2844             indexer = self._get_index(name)
-> 2845             result[indexer] = res
   2846
   2847         result = _possibly_downcast_to_dtype(result, dtype)

ValueError: Could not convert object to NumPy datetime

我以为我错误地使用了这个,但是当你使用groupby.agg时,它可以正常使用!

In [43]: df.groupby('session_id')['time_stamp'].agg(lambda x: x.max() - x.min())
Out[43]:
session_id
0   00:00:02
1   00:00:01
2   00:00:05
Name: time_stamp, dtype: timedelta64[ns]

请你解释一下这是不是一个错误,如果不是,我做错了什么?谢谢!

P.S。我不想使用时间戳索引,因为我可能在实际数据中有重复的时间戳。

1 个答案:

答案 0 :(得分:1)

为什么agg有效但transform失败?

这两种行为之间的区别在于transform()操作需要返回类似索引的操作。为此,transform以原始系列的副本开头。然后,在对每个组进行计算之后,将复制的序列的适当元素设置为等于结果。此时进行类型比较,发现timedelta无法转换为datetimeagg()不执行此步骤,因此不会使类型检查失败。

解决方法:

此分析表明可以解决这个问题。如果transform的结果为datetime,则会成功。所以要解决:

base_time = df['time_stamp'][0]
df.groupby('session_id')['time_stamp'].transform(
    lambda x: x.max() - x.min() + base_time) - base_time

这是一个Bug吗?

我认为这是一个错误,我计划在早上提出问题。我将在此处更新问题链接。

更新:

我已为此问题提交了bugpull request