滑动窗口操作的Numpy矢量化

时间:2016-08-30 16:35:09

标签: python arrays numpy matrix-multiplication sliding-window

我有以下numpy数组:

arr_1 = [[1,2],[3,4],[5,6]]   # 3 X 2 
arr_2 = [[0.5,0.6],[0.7,0.8],[0.9,1.0],[1.1,1.2],[1.3,1.4]]  # 5 X 2

arr_1显然是3 X 2数组,而arr_25 X 2数组。

现在没有循环,我希望以元素方式乘以arr_1和arr_2,以便我将滑动窗口技术(窗口大小3)应用于arr_2。

Example:

Multiplication 1:  np.multiply(arr_1,arr_2[:3,:])

Multiplication 2: np.multiply(arr_1,arr_2[1:4,:])

Multiplication 3: np.multiply(arr_1,arr_2[2:5,:])

我希望以某种矩阵乘法形式执行此操作,以使其比我当前的解决方案更快:

for i in (2):
   np.multiply(arr_1,arr_2[i:i+3,:])  

因此,如果arr_2中的行数很大(数万个数量级),那么这个解决方案并不能很好地扩展。

非常感谢任何帮助。

2 个答案:

答案 0 :(得分:5)

我们可以使用NumPy broadcasting以矢量化方式创建那些滑动窗口索引。然后,我们可以简单地使用arr_2索引到3D以创建2D数组并使用arr_1数组broadcasting执行逐元素乘法,这反过来会导致W = arr_1.shape[0] # Window size idx = np.arange(arr_2.shape[0]-W+1)[:,None] + np.arange(W) out = arr_1*arr_2[idx] 1}}再次。

所以,我们会有一个像这样的矢量化实现 -

In [143]: # Input arrays
     ...: arr_1 = np.random.rand(3,2)
     ...: arr_2 = np.random.rand(10000,2)
     ...: 
     ...: def org_app(arr_1,arr_2):
     ...:     W = arr_1.shape[0] # Window size
     ...:     L = arr_2.shape[0]-W+1
     ...:     out = np.empty((L,W,arr_1.shape[1]))
     ...:     for i in range(L):
     ...:        out[i] = np.multiply(arr_1,arr_2[i:i+W,:])
     ...:     return out
     ...: 
     ...: def vectorized_app(arr_1,arr_2):
     ...:     W = arr_1.shape[0] # Window size
     ...:     idx = np.arange(arr_2.shape[0]-W+1)[:,None] + np.arange(W)
     ...:     return arr_1*arr_2[idx]
     ...: 

In [144]: np.allclose(org_app(arr_1,arr_2),vectorized_app(arr_1,arr_2))
Out[144]: True

In [145]: %timeit org_app(arr_1,arr_2)
10 loops, best of 3: 47.3 ms per loop

In [146]: %timeit vectorized_app(arr_1,arr_2)
1000 loops, best of 3: 1.21 ms per loop

运行时测试并验证结果 -

Message

答案 1 :(得分:3)

这是测试as_strided和Divakar广播速度的一个很好的案例。

In [281]: %%timeit 
     ...: out=np.empty((L,W,arr1.shape[1]))
     ...: for i in range(L):
     ...:    out[i]=np.multiply(arr1,arr2[i:i+W,:])
     ...: 
10 loops, best of 3: 48.9 ms per loop
In [282]: %%timeit
     ...: idx=np.arange(L)[:,None]+np.arange(W)
     ...: out=arr1*arr2[idx]
     ...: 
100 loops, best of 3: 2.18 ms per loop
In [283]: %%timeit
     ...: arr3=as_strided(arr2, shape=(L,W,2), strides=(16,16,8))
     ...: out=arr1*arr3
     ...: 
1000 loops, best of 3: 805 µs per loop

Create Numpy array without enumerating array更多地比较了这些方法。