如何使用numpy有效地将函数应用于第三维数组?

时间:2016-09-03 16:03:43

标签: python arrays numpy multidimensional-array vectorization

我想将任意函数应用到3d-ndarray作为元素,它使用(第三维)数组作为其参数并返回标量。因此,我们应该得到2d-Matrix。

例如)伪代码

A = [[[1,2,3],[4,5,6]],
     [[7,8,9],[10,11,12]]]
A.apply_3d_array(sum) ## or apply_3d_array(A,sum) is Okey.
>> [[6,15],[24,33]]

我理解使用ndarray.shape函数循环是可能的,但正如官方文档所说,直接索引访问效率低下。 有没有比使用循环更有效的方法?

def chromaticity(pixel):
    geo_mean = math.pow(sum(pixel),1/3)
    return map(lambda x: math.log(x/geo_mean),pixel ) 

2 个答案:

答案 0 :(得分:3)

给定函数实现,我们可以使用NumPy ufuncs对其进行矢量化,NumPy broadcasting可以一次性对整个输入数组A进行操作,从而避免不会出现math库函数。 t支持数组上的矢量化。在这个过程中,我们还将引入非常有效的矢量化工具:{{3}}。所以,我们会有这样的实现 -

np.log(A/np.power(np.sum(A,2,keepdims=True),1/3))

示例运行和验证

没有lamdba构造并引入NumPy函数而不是math库函数的函数实现看起来像这样 -

def chromaticity(pixel): 
    geo_mean = np.power(np.sum(pixel),1/3) 
    return np.log(pixel/geo_mean)

使用迭代实现运行示例 -

In [67]: chromaticity(A[0,0,:])
Out[67]: array([-0.59725316,  0.09589402,  0.50135913])

In [68]: chromaticity(A[0,1,:])
Out[68]: array([ 0.48361096,  0.70675451,  0.88907607])

In [69]: chromaticity(A[1,0,:])
Out[69]: array([ 0.88655887,  1.02009026,  1.1378733 ])

In [70]: chromaticity(A[1,1,:])
Out[70]: array([ 1.13708257,  1.23239275,  1.31940413])    

使用建议的矢量化实现运行示例 -

In [72]: np.log(A/np.power(np.sum(A,2,keepdims=True),1/3))
Out[72]: 
array([[[-0.59725316,  0.09589402,  0.50135913],
        [ 0.48361096,  0.70675451,  0.88907607]],

       [[ 0.88655887,  1.02009026,  1.1378733 ],
        [ 1.13708257,  1.23239275,  1.31940413]]])

运行时测试

In [131]: A = np.random.randint(0,255,(512,512,3)) # 512x512 colored image

In [132]: def org_app(A):
     ...:     out = np.zeros(A.shape)     
     ...:     for i in range(A.shape[0]):
     ...:         for j in range(A.shape[1]):
     ...:             out[i,j] = chromaticity(A[i,j])
     ...:     return out
     ...: 

In [133]: %timeit org_app(A)
1 loop, best of 3: 5.99 s per loop

In [134]: %timeit np.apply_along_axis(chromaticity, 2, A) #@hpaulj's soln
1 loop, best of 3: 9.68 s per loop

In [135]: %timeit np.log(A/np.power(np.sum(A,2,keepdims=True),1/3))
10 loops, best of 3: 90.8 ms per loop

这就是为什么在使用数组进行向量化操作时总是尝试推入NumPy funcs并尽可能多地处理尽可能多的元素!

答案 1 :(得分:1)

apply_along_axis旨在简化此任务:

In [683]: A=np.arange(1,13).reshape(2,2,3)
In [684]: A
Out[684]: 
array([[[ 1,  2,  3],
        [ 4,  5,  6]],

       [[ 7,  8,  9],
        [10, 11, 12]]])
In [685]: np.apply_along_axis(np.sum, 2, A)
Out[685]: 
array([[ 6, 15],
       [24, 33]])

它实际上是

for all i,j:
    out[i,j] = func( A[i,j,:])

照顾细节。它并不比自己进行迭代更快,但它更容易。

另一个技巧是将输入重新整形为2d,执行更简单的1d迭代,并重新整形结果

 A1 = A.reshape(-1, A.shape[-1])
 for i in range(A1.shape[0]):
     out[i] = func(A1[i,:])
 out.reshape(A.shape[:2])

为了更快地完成任务,您需要深入了解函数的内容,并弄清楚如何在多个维度上使用编译numpy操作。在sum的简单情况下,该函数已经可以在选定的轴上工作。