有什么方法可以比for循环更快地迭代数组吗?

时间:2019-03-21 04:33:27

标签: python numpy astronomy

我正在编写一个代码,将天文图上的像素通量与另一图上的相应区域进行比较。这两个地图都是数据的numpy数组。

为此,我需要将第一张地图(Av)上的像素索引转换为天空坐标上的等效像素,然后将这些天空坐标转换为第二张地图(CO)上等效的像素索引。然后,我缩放第二张图的通量以匹配第一张图的值。之后,我必须继续处理数据。

问题在于,由于第一张地图上有数千个像素,因此代码要花很长时间才能完成应有的工作,这对于排除故障很麻烦。我发现这部分代码中最慢的是for循环。

我有什么方法可以遍历numpy数组,能够处理索引并计算每个像素的数据,这比for循环快?是否有更好的方法来做到这一点?呢?

在伪代码中,我的代码是这样的:

for pixel i,j in 1st map:
    sky_x1,sky_y1 = pixel_2_skycoord(i,j)
    i2,j2 = skycoord_2_pixel(sky_x1,sky_y1)

    Avmap.append(Avflux[i,j])
    COmap.append(COflux[i2,j2]*scale)

实际代码是:

for i in xrange(0,sAv_y-1):
    for j in xrange(0,sAv_x-1):
        if not np.isnan(Avdata[i,j]):           

            y,x=wcs.utils.skycoord_to_pixel(wcs.utils.pixel_to_skycoord(i,j,wAv,0),wcs=wCO)

            x=x.astype(int)+0 #the zero is because i don't understand the problem with numpy but it fixes it anyway
            y=y.astype(int)+0 #i couldn't get the number from an array with 1 value but adding zero resolves it somehow
            COflux=COdata[x,y]

            ylist.append(Avdata[i,j])
            xlist.append(COflux*(AvArea/COArea))

3 个答案:

答案 0 :(得分:3)

罪魁祸首是两个for循环。 Numpy具有许多功能,这些功能阻止使用for循环来允许快速编译的代码。诀窍是使代码矢量化。

您可以查看numpy的meshgrid函数,以将此数据转换为矢量化形式,然后可以使用this SO question之类的东西将任意函数应用于该矢量。

类似的东西:

x_width = 15
y_width = 10

x, y = np.meshgrid(range(x_width), range(y_width))

def translate(x, y, x_o, y_o):
    x_new = x + x_o
    y_new = y + y_o
    return x_new, y_new

x_new, y_new = translate(x, y, 3, 3)

x_new[4,5], y[4,5]

(8, 4)

答案 1 :(得分:1)

您必须避免循环,并在基础C代码中以Numpy或Astropy进行大量计算,以进行天空/像素转换。使用astropy.wcs可以有多种选择。

第一个是SkyCoord。首先,为像素索引创建一个值网格:

In [30]: xx, yy = np.mgrid[:5, :5] 
    ...: xx, yy 
Out[30]: 
(array([[0, 0, 0, 0, 0],
        [1, 1, 1, 1, 1],
        [2, 2, 2, 2, 2],
        [3, 3, 3, 3, 3],
        [4, 4, 4, 4, 4]]), array([[0, 1, 2, 3, 4],
        [0, 1, 2, 3, 4],
        [0, 1, 2, 3, 4],
        [0, 1, 2, 3, 4],
        [0, 1, 2, 3, 4]]))

现在,我们可以通过像素索引并使用wcs创建SkyCoord对象(它是Numpy数组子类):

In [33]: from astropy.coordinates import SkyCoord 
    ...: sky = SkyCoord.from_pixel(xx, yy, wcs) 
    ...: sky                                                                                   
Out[33]: 
<SkyCoord (FK5: equinox=2000.0): (ra, dec) in deg
    [[(53.17127889, -27.78771333), (53.17127889, -27.78765778),
      (53.17127889, -27.78760222), (53.17127889, -27.78754667),
      (53.17127889, -27.78749111)],
      ....

请注意,这正在使用wcs.utils.skycoord_to_pixel。该对象还有一种使用wcs投影到像素的方法。出于实际目的,我将在此处相同:

In [34]: sky.to_pixel(wcs)                                                                     
Out[34]: 
(array([[ 0.00000000e+00, -1.11022302e-16, -2.22044605e-16,
         -3.33066907e-16,  1.13149046e-10],
        ...
        [ 4.00000000e+00,  4.00000000e+00,  4.00000000e+00,
          4.00000000e+00,  4.00000000e+00]]),
 array([[-6.31503738e-11,  1.00000000e+00,  2.00000000e+00,
          3.00000000e+00,  4.00000000e+00],
        ...
        [-1.11457732e-10,  1.00000000e+00,  2.00000000e+00,
          3.00000000e+00,  4.00000000e+00]]))

我们得到了新的x和y索引的float值元组。因此,您将需要舍入这些值并将其转换为int以将其用作数组索引。

第二个选项是使用较低级别的功能,例如wcs.pixel_to_world_valueswcs.world_to_pixel_values,它们接收Nx2数组并返回该数组:

In [37]: wcs.pixel_to_world_values(np.array([xx.ravel(), yy.ravel()]).T)                       
Out[37]: 
array([[ 53.17127889, -27.78771333],
       [ 53.17127889, -27.78765778],
       [ 53.17127889, -27.78760222],
       [ 53.17127889, -27.78754667],
       ...

答案 2 :(得分:0)

我的建议是使用多处理或多线程而不是for循环,这可以使并行执行并使代码更快。