查找重叠的列/行集

时间:2013-08-12 16:20:24

标签: python numpy

背景:这个问题进一步解决了this other thread中的问题。

假设我有一个2D数组,其中列被分成几组。为简单起见,我们可以假设数组包含int值,如下所示:

np.random.randint(3,size=(2,10))   

# Column indices:
#       0  1  2  3  4  5  6  7  8  9                     
array([[0, 2, 2, 2, 1, 1, 0, 1, 1, 2],
       [1, 1, 0, 1, 1, 0, 2, 1, 1, 0]])

作为列索引分区的示例,我们可以选择以下内容:

# Partitioning the column indices of the previous array:

my_partition['first']  = [0,1,2]
my_partition['second'] = [3,4]
my_partition['third']  = [5,6,7]
my_partition['fourth'] = [8, 9]

我想找到具有相同值的列的列索引集合。在上面的示例中,这些组的一些示例将是:

# The following sets include indices for a common column vector with values [2,0]^T
group['a'] = ['first', 'fourth'] 

# The following sets include indices for a common column vector with values [1,1]^T
group['b'] = ['second', 'third', 'fourth'] 

我感兴趣的是这个问题的解决方案适用于包含真实值的数组(例如,值1.0/21.0/2是相同的,即{{1} } return 1.0/2 == 1.0/2)。

我知道浮动精度的潜在限制,所以我只是分两步处理这个问题:

  1. 如果值相同,则假设两列相同
  2. 假设如果值彼此接近,则两列相同(例如,矢量差异低于阈值)
  3. 我试图在前一个帖子中概括解决方案,但我不确定它是否可以直接应用。我认为它适用于第一个问题(列中完全相同的值),但我们可能需要“更大的船”用于第二个问题。

1 个答案:

答案 0 :(得分:2)

如果你想从列集合中创建一个集合式数据结构,这里有一种方法(我确信有更有效的方法可以获得更大的数据):

group = {}
for i in range(array.shape[1]):
    tup = tuple(array[:,i])
    if tup in group.keys():
        group[tup].append(i)
    else:
        group[tup] = [i]

array的例子执行了:

In [132]: group
Out[132]:
{(0, 1): [0],
 (0, 2): [6],
 (1, 0): [5],
 (1, 1): [4, 7, 8],
 (2, 0): [2, 9],
 (2, 1): [1, 3]}

由于numpy.ndarray(如list)不可用,因此这些列本身不能用作dict密钥。我选择只使用tuple - 相当于列,但还有很多其他选择。

另外,我假设在list中需要group列索引。如果确实如此,您可以考虑使用defaultdict而不是常规dict。但是您也可以使用许多其他容器来存储列索引。

<强>更新

我相信我更清楚问题是什么:给定一组预先定义的列的任意集合,如何确定任何两个给定的组是否包含一个共同的列。

如果我们假设您已在上面的答案中构建了类似于集合的结构,则可以将这两个组放在一起,查看它们的组成列,并询问是否有任何列最终位于set字典的同一部分中:

假设我们定义:

my_partition['first']  = [0,1,2]
my_partition['second'] = [3,4]
my_partition['third']  = [5,6,7]
my_partition['fourth'] = [8, 9]

# Define a helper to back-out the column that serves as a key for the set-like structure.
# Take 0th element, column index should only be part of one subset.
get_key = lambda x: [k for k,v in group.iteritems() if x in v][0]

# use itertools
import itertools

# Print out the common columns between each pair of groups.
for pair_x, pair_y in itertools.combinations(my_partition.keys(), 2):
    print pair_x, pair_y, (set(map(get_key, my_partition[pair_x])) &
                           set(map(get_key, my_partition[pair_y])))

每当这不是空集时,就意味着两个组之间的某些列是相同的。

执行您的问题:

In [163]: for pair_x, pair_y in itertools.combinations(my_partition.keys(), 2):
    print pair_x, pair_y, set(map(get_key, my_partition[pair_x])) & set(map(get_key, my_partition[pair_y]))
   .....:
second fourth set([(1, 1)])
second third set([(1, 1)])
second first set([(2, 1)])
fourth third set([(1, 1)])
fourth first set([(2, 0)])
third first set([])