Question

假设您有两个2D数组A和B，并且要检查B中包含A行的位置。如何使用numpy最有效地做到这一点？

例如

a = np.array([[1,2,3],
              [4,5,6],
              [9,10,11]])

b = np.array([[4,5,6],
              [4,3,2],
              [1,2,3],
              [4,8,9]])
map = [[0,2], [1,0]]  # row 0 of a is at row index 2 of array B

我知道如何使用in1d（test for membership in a 2d numpy array）检查A的行是否在B中，但这不会产生索引图。

此映射的目的是（最终）基于某些列将两个数组合并在一起。
当然，可以逐行执行此操作，但是效率很低，因为我的数组具有形状（50 Mio.，20）。

一种替代方法是使用pandas merge function，但我只想使用numpy来实现。

Answer 1

方法1

这里是基于views的一个。利用np.argwhere（docs）返回满足条件的元素的索引，在这种情况下为成员资格。 -

def view1D(a, b): # a, b are arrays
    a = np.ascontiguousarray(a)
    b = np.ascontiguousarray(b)
    void_dt = np.dtype((np.void, a.dtype.itemsize * a.shape[1]))
    return a.view(void_dt).ravel(),  b.view(void_dt).ravel()

def argwhere_nd(a,b):
    A,B = view1D(a,b)
    return np.argwhere(A[:,None] == B)

方法2

这里是O(n)，因此在性能上要好得多，尤其是在大型阵列上-

def argwhere_nd_searchsorted(a,b):
    A,B = view1D(a,b)
    sidxB = B.argsort()
    mask = np.isin(A,B)
    cm = A[mask]
    idx0 = np.flatnonzero(mask)
    idx1 = sidxB[np.searchsorted(B,cm, sorter=sidxB)]
    return idx0, idx1 # idx0 : indices in A, idx1 : indices in B

方法3

另一个O(n)使用argsort()-

def argwhere_nd_argsort(a,b):
    A,B = view1D(a,b)
    c = np.r_[A,B]
    idx = np.argsort(c,kind='mergesort')
    cs = c[idx]
    m0 = cs[:-1] == cs[1:]
    return idx[:-1][m0],idx[1:][m0]-len(A)

示例运行时的输入与以前相同-

In [650]: argwhere_nd_searchsorted(a,b)
Out[650]: (array([0, 1]), array([2, 0]))

In [651]: argwhere_nd_argsort(a,b)
Out[651]: (array([0, 1]), array([2, 0]))

Answer 2

您可以利用自动广播：

np.argwhere(np.all(a.reshape(3,1,-1) == b,2))

结果

array([[0, 2],
       [1, 0]])

请注意，对于浮点数，您可能希望将==替换为np.islclose()

匹配两个2D数组的行并使用numpy获取行索引图

2 个答案: