我想要一个滚动窗口的数据帧表示。我没有在滚动窗口上执行某些操作，而是想要一个数据框，其中窗口在另一个维度中表示。这可以是pd.Panel或np.array或pd.DataFrame，pd.MultiIndex。
import pandas as pd
import numpy as np
np.random.seed([3,1415])
df = pd.DataFrame(np.random.rand(10, 3).round(2),
columns=['A', 'B', 'C'],
index=list('abcdefghij'))
print df
A B C
a 0.44 0.41 0.46
b 0.47 0.46 0.02
c 0.85 0.82 0.78
d 0.76 0.93 0.83
e 0.88 0.93 0.72
f 0.12 0.15 0.20
g 0.44 0.10 0.28
h 0.61 0.09 0.84
i 0.74 0.87 0.69
j 0.38 0.23 0.44
对于window = 2，我希望结果是。
0 1
A B C A B C
a 0.44 0.41 0.46 0.47 0.46 0.02
b 0.47 0.46 0.02 0.85 0.82 0.78
c 0.85 0.82 0.78 0.76 0.93 0.83
d 0.76 0.93 0.83 0.88 0.93 0.72
e 0.88 0.93 0.72 0.12 0.15 0.20
f 0.12 0.15 0.20 0.44 0.10 0.28
g 0.44 0.10 0.28 0.61 0.09 0.84
h 0.61 0.09 0.84 0.74 0.87 0.69
i 0.74 0.87 0.69 0.38 0.23 0.44
我不打算以这种方式呈现布局，但这是我想要的信息。我正在寻找最有效的方法。
我尝试过以不同的方式使用shift，但感觉很笨拙。这就是我用来产生上面输出的东西：
print pd.concat([df, df.shift(-1)], axis=1, keys=[0, 1]).dropna()
答案 0 :(得分：11)
我们可以使用NumPy通过 esoteric strided tricks来查看那些滑动窗口。如果您正在使用这个新维度进行矩阵乘法等减少，那么这将是理想的选择。如果由于某种原因，您希望输出2D，我们需要在结尾处使用重塑，这将导致创建副本。
因此，实现看起来像这样 -
from numpy.lib.stride_tricks import as_strided as strided
def get_sliding_window(df, W, return2D=0):
a = df.values
s0,s1 = a.strides
m,n = a.shape
out = strided(a,shape=(m-W+1,W,n),strides=(s0,s0,s1))
if return2D==1:
return out.reshape(a.shape[0]-W+1,-1)
else:
return out
用于2D / 3D输出的样本运行 -
In [68]: df
Out[68]:
A B
0 0.44 0.41
1 0.46 0.47
2 0.46 0.02
3 0.85 0.82
4 0.78 0.76
In [70]: get_sliding_window(df, 3,return2D=1)
Out[70]:
array([[ 0.44, 0.41, 0.46, 0.47, 0.46, 0.02],
[ 0.46, 0.47, 0.46, 0.02, 0.85, 0.82],
[ 0.46, 0.02, 0.85, 0.82, 0.78, 0.76]])
以下是3D视图输出的外观 -
In [69]: get_sliding_window(df, 3,return2D=0)
Out[69]:
array([[[ 0.44, 0.41],
[ 0.46, 0.47],
[ 0.46, 0.02]],
[[ 0.46, 0.47],
[ 0.46, 0.02],
[ 0.85, 0.82]],
[[ 0.46, 0.02],
[ 0.85, 0.82],
[ 0.78, 0.76]]])
让我们为各种窗口大小的视图3D输出时间 -
In [331]: df = pd.DataFrame(np.random.rand(1000, 3).round(2))
In [332]: %timeit get_3d_shfted_array(df,2) # @Yakym Pirozhenko's soln
10000 loops, best of 3: 47.9 µs per loop
In [333]: %timeit get_sliding_window(df,2)
10000 loops, best of 3: 39.2 µs per loop
In [334]: %timeit get_3d_shfted_array(df,5) # @Yakym Pirozhenko's soln
10000 loops, best of 3: 89.9 µs per loop
In [335]: %timeit get_sliding_window(df,5)
10000 loops, best of 3: 39.4 µs per loop
In [336]: %timeit get_3d_shfted_array(df,15) # @Yakym Pirozhenko's soln
1000 loops, best of 3: 258 µs per loop
In [337]: %timeit get_sliding_window(df,15)
10000 loops, best of 3: 38.8 µs per loop
让我们确认一下我们确实收到了意见 -
In [338]: np.may_share_memory(get_sliding_window(df,2), df.values)
Out[338]: True
即使在各种窗口大小的情况下get_sliding_window几乎是恒定的时间，也表明了获取视图而不是复制的巨大好处。
答案 1 :(得分：1)
免责声明：
首先，我不会把你提供的方法称为笨重。它是可读的，您可以轻松地将列表理解推广到任何窗口大小。与此同时，这有点像一个开放式的问题，可能有很多解决方案，包括你自己的解决方案。
/免责声明
以下是我认为符合您描述的另一种方法：
在np.dstack上使用df.values。现有方法的一个好处是施工速度。
import pandas as pd
import numpy as np
from io import StringIO
df = pd.read_csv(StringIO(
'''
A B C
a 0.44 0.41 0.46
b 0.47 0.46 0.02
c 0.85 0.82 0.78
d 0.76 0.93 0.83
e 0.88 0.93 0.72
f 0.12 0.15 0.20
g 0.44 0.10 0.28
h 0.61 0.09 0.84
i 0.74 0.87 0.69
j 0.38 0.23 0.44
'''), sep=r' +')
window = 2
def get_3d_shfted_array(df, window=window):
rows = df.values
res = np.dstack((rows[i:i-window] for i in range(window)))
return res
# 100000 loops, best of 3: 15.5 µs per loop
res = get_3d_shfted_array(df)
zero = res[...,0]
one = res[...,1]
# current method
def get_multiindexed_array(df, window=window):
return pd.concat([df, df.shift(-1)], axis=1, keys=[0, 1]).dropna()
# 1000 loops, best of 3: 928 µs per loop