优化运营商的平等和不平等

时间:2013-12-11 16:45:01

标签: algorithm caching equality equation-solving union-find

我有一些比较昂贵的结构。 (它们实际上是具有不同分支的树。)计算它们的哈希值也很昂贵。

我想为 eq 运算符创建一个装饰器,它将缓存一些结果以加快速度。这有点类似于memoization。

特别是,我想要这样的事情发生。假设我们有3个对象:A,B和C. 我们将A与B进行比较。 eq 运算符被调用,返回True,结果被存储。我们将B与C进行比较。 eq 运算符与之前一样被调用。现在我们将A与C进行比较。现在算法应该检测到A等于B而B等于C,所以它应该返回A等于C而不调用昂贵的 eq 运算符。 / p>

我想使用union-find算法,但它只允许缓存等号,并且不允许缓存不等式

假设我们有2个彼此相等的对象:A和B.假设我们还有另一对相等的对象:C和D. union-find算法会将它们正确地分为两类(A,B)和(C,D)。现在假设A 等于C.我的算法应该以某种方式缓存它并阻止 eq 运算符进一步运行对(A,C),(B,C) ,(A,D),(B,D),因为我们可以推断所有这些对是不相等的。 Union-find不允许这样做。它只能保存正的平等,当我们必须比较许多不平等的物体时,它们会失败。

我目前的解决方案是这样的:

def optimize(original_eq):
    def optimized_eq(first, second):
        if first is second: return True
        if hash(first) != hash(second): return False
        if cache.find(first) == cache.find(second): return True
        result = original_eq(first, second)
        if result:
            cache.union(first, second)
        else:
            pass # no idea how to save the negative result
        return result
    return optimized_eq

如果散列函数很容易计算,那么这个解决方案就没问题,但事实并非如此。我们将在很可能相等的对象上调用cache.find,因此我们很少需要调用原始的相等运算符。但是,正如我所说,我的树上的哈希函数非常慢(它基本上需要遍历所有树,比较每个节点上的分支以删除重复项),所以我想删除它。我想缓存负面结果。

有谁知道这个问题的好方法?我不仅需要缓存积极的比较结果,还需要缓存积极的比较结果。

更新:

我目前适合我的解决方案如下:

def memoize_hash_and_eq(cls):
    "This decorator should be applied to the class."

    def union(key1, key2):
        nonlocal union_find
        if key1 is not key2:
            key1_leader = union_find(key1)
            key2_leader = union_find(key2)
            key1_leader._memoize_hash_and_eq__leader = key2_leader
            try:
                key2_leader._memoize_hash_and_eq__splits = key1_leader._memoize_hash_and_eq__splits
                del key1_leader._memoize_hash_and_eq__splits
            except AttributeError:
                pass

    def union_find(key):
        leader = key
        while True:
            try:
                leader = leader._memoize_hash_and_eq__leader
            except AttributeError:
                break
        if leader is not key:
            key._memoize_hash_and_eq__leader = leader
            try:
                leader.__splits = key._memoize_hash_and_eq__splits
                del key._memoize_hash_and_eq__splits
            except AttributeError:
                pass
        return leader

    def split(key1, key2):
        nonlocal union_find
        key1_leader = union_find(key1)
        key2_leader = union_find(key2)
        try:
            key1_leader._memoize_hash_and_eq__splits.add(key2_leader)
        except AttributeError:
            try:
                key2_leader._memoize_hash_and_eq__splits.add(key1_leader)
            except AttributeError:
                try:
                    key1_leader._memoize_hash_and_eq__splits = set()
                    key1_leader._memoize_hash_and_eq__splits.add(key2_leader)
                except (AttributeError, TypeError):
                    pass

    def split_find(key1, key2):
        nonlocal union_find

        key1_leader = union_find(key1)
        key2_leader = union_find(key2)

        try:
            split_leaders = key2_leader._memoize_hash_and_eq__splits
            for k in [_k for _k in split_leaders]:
                split_leaders.add(union_find(k))
            if key1_leader in split_leaders:
                return True
        except (AttributeError, TypeError):
            pass

        try:
            split_leaders = key1_leader._memoize_hash_and_eq__splits
            for k in [_k for _k in split_leaders]:
                split_leaders.add(union_find(k))
            if key2_leader in split_leaders:
                return True
        except (AttributeError, TypeError):
            pass

        return False

    def memoized_hash(self):
        return original_hash(union_find(self))
    original_hash = cls.__hash__
    cls.__hash__ = memoized_hash

    def memoized_equivalence(self, other):
        if self is other:
            return True

        if union_find(self) is union_find(other):
            return True

        if split_find(self, other):
            return False

        result = original_equivalence(self, other)
        if result is NotImplemented:
            return result
        elif result:
            union(self, other)
        else:
            split(self, other)

        return result
    original_equivalence = cls.__eq__
    cls.__eq__ = memoized_equivalence

    return cls

这加快了eq和hash。

3 个答案:

答案 0 :(得分:0)

您可以拥有多个彼此“不相等”的联合树。

例如,如果找到A == B,则A和B形成联合查找树。

现在你遇到了C.它不在现有的union-find树中。因此,请检查树中任何元素的哈希值。如果C!= A,则形成另一个只包含元素C的union-find树。

因此,如果两个元素在不同的union-find树中,则它们是不相等的,并且不需要调用eq函数。

答案 1 :(得分:0)

这是一个O(k*n*eq_operation)算法,其中k是集合的数量。从n组开始,取一个元素v并使用eq运算符与其他元素进行比较。如果元素u不等于将项添加到新集,则查找v和u的union并继续直到列表的末尾。在新列表中执行相同操作,直到只剩下一个元素。

伪代码: -

set = all n
for i in set
parent[i] = i;

while set is not empty {

    i = set[0];
    newset = [];
    for j = 1 to set.size() {

        if(eq(i,set[j])) {

             parent[set[j]] = i;
        }         

        else {
               newset.add(set[j])
        }
    }

   set = newset

} 

注意: - 如果没有任何集合高于蛮力O(n^2*eq_operation),而如果没有集合低,则O(n*eq_operation)

在此之后,您只需检查parent[i] ! = parent[j]是否可以获得不平等,parent[i ] == parent[j]是否O(1)中的相等。

答案 2 :(得分:0)

这不是一个非常漂亮的解决方案,但是对于等价类的每个领导者(即联盟查找结构中的根)存储的情况如何,一个二进制搜索树至少包含(见下文)所有领导者它肯定是不平等的

要查询x ?= y:像往常一样,你会找到两者的领导者,看看他们是否平等。如果他们不平等,找到另一个BST的领导者之一。如果存在,xy肯定是不平等的。

结合两个等价类xy:合并其领导者的BST并将其设置为x和{{1}联盟的新领导者的BST }。进入其中一个BST然后成为非领导者的节点永远不会从BST中删除,但这不是一个大问题 - 它不会导致任何查询返回错误的结果,它只是浪费了一些空间(但从来没有太多) )。