pandas用groupby滚动最大值

时间:2017-05-07 10:45:38

标签: python python-3.x pandas dataframe group-by

我在让Pandas的rolling功能按照我的意愿行事时遇到了问题。我希望每个人都能计算到目前为止的最大值。这是一个例子:

df = pd.DataFrame([[1,3], [1,6], [1,3], [2,2], [2,1]], columns=['id', 'value'])

看起来像

   id  value
0   1      3
1   1      6
2   1      3
3   2      2
4   2      1

现在我希望获得以下DataFrame:

   id  value
0   1      3
1   1      6
2   1      6
3   2      2
4   2      2

问题在于我做的时候

df.groupby('id')['value'].rolling(1).max()

我得到了相同的DataFrame。当我做的时候

df.groupby('id')['value'].rolling(3).max()

我用Nans获得了一个DataFrame。有人可以解释如何正确使用rolling或其他一些Pandas函数来获取我想要的DataFrame吗?

2 个答案:

答案 0 :(得分:5)

您似乎需要cummax()而不是.rolling(N).max()

In [29]: df['new'] = df.groupby('id').value.cummax()

In [30]: df
Out[30]:
   id  value  new
0   1      3    3
1   1      6    6
2   1      3    6
3   2      2    2
4   2      1    2

计时(使用全新的Pandas版本0.20.1):

In [3]: df = pd.concat([df] * 10**4, ignore_index=True)

In [4]: df.shape
Out[4]: (50000, 2)

In [5]: %timeit df.groupby('id').value.apply(lambda x: x.cummax())
100 loops, best of 3: 15.8 ms per loop

In [6]: %timeit df.groupby('id').value.cummax()
100 loops, best of 3: 4.09 ms per loop

注意: from Pandas 0.20.0 what's new

答案 1 :(得分:2)

使用apply会更快一点:

# Using apply  
df['output'] = df.groupby('id').value.apply(lambda x: x.cummax())
%timeit df['output'] = df.groupby('id').value.apply(lambda x: x.cummax())
1000 loops, best of 3: 1.57 ms per loop

其他方法:

df['output'] = df.groupby('id').value.cummax()
%timeit df['output'] = df.groupby('id').value.cummax()
1000 loops, best of 3: 1.66 ms per loop