区间树中的查询太慢

时间:2014-10-22 11:49:30

标签: python algorithm interval-tree

我有一个间隔列表,我需要返回与查询中传递的间隔重叠的间隔。特别的是,在典型的查询中,大约三分之一甚至一半的区间将与查询中给出的区间重叠。此外,最短间隔与最长间隔的比率不大于1:5。我实现了自己的间隔树(增强的红黑树) - 我不想使用现有的实现,因为我需要支持闭区间和一些特殊功能。我用6000个间隔在树中测试了6000个查询的查询速度(所以n = 6000,m = 3000(app。))。事实证明,暴力与使用树一样好:

Computation time - loop: 125.220461 s
Tree setup: 0.05064 s
Tree Queries: 123.167337 s

让我使用渐近分析。 n:查询次数; n:间隔数;应用程序。 n / 2:查询中返回的间隔数:

时间复杂性暴力:n * n

时间复杂度树:n *(log(n)+ n / 2) - > 1/2 n n + n log(n) - > N * N

所以结果是说两者对于一个大的n应该大致相同。考虑到n * n前面的常数1/2,人们仍会以某种方式期望树明显更快。因此,我得到的结果有三个可能的原因:

a)我的实施是错误的。 (我应该像下面这样使用BFS吗?) b)我的实现是正确的,但我为Python做了一些麻烦,所以它需要更多的时间来处理树而不是处理蛮力。 c)一切都很好 - 这就是事情应该如何表现为大n

我的查询功能如下:

from collections import deque

def query(self,low,high):
    result = []
    q = deque([self.root]) # this is the root node in the tree
    append_result = result.append
    append_q = q.append
    pop_left = q.popleft
    while q:
        node = pop_left() # look at the next node
        if node.overlap(low,high): # some overlap?
            append_result(node.interval)
        if node.low != None and low <= node.get_low_max(): # en-q left node
            append_q(node.low)                
        if node.high != None and node.get_high_min() <= high: # en-q right node
            append_q(node.high)

我像这样构建树:

def build(self, intervals):
    """
    Function which is recursively called to build the tree.
    """
    if intervals is None:
        return None

    if len(intervals) > 2: # intervals is always sorted in increasing order
        mid = len(intervals)//2
        # split intervals into three parts:
        # central element (median)
        center = intervals[mid]
        # left half (<= median)
        new_low = intervals[:mid]
        #right half (>= median)
        new_high = intervals[mid+1:]
        #compute max on the lower side (left):
        max_low = max([n.get_high() for n in new_low])
        #store min on the higher side (right):
        min_high = new_high[0].get_low()

    elif len(intervals) == 2:
        center = intervals[1]
        new_low = [intervals[0]]
        new_high = None
        max_low = intervals[0].get_high()
        min_high = None

    elif len(intervals) == 1:
        center = intervals[0]
        new_low = None
        new_high = None
        max_low = None
        min_high = None

    else:
        raise Exception('The tree is not behaving as it should...')

    return(Node(center, self.build(new_low),self.build(new_high),
                max_low, min_high))

编辑:

节点如下所示:

class Node:
    def __init__(self, interval, low, high, max_low, min_high):
        self.interval = interval # pointer to corresponding interval object
        self.low = low # pointer to node containing intervals to the left
        self.high = high # pointer to node containing intervals to the right
        self.max_low = max_low # maxiumum value on the left side
        self.min_high = min_high # minimum value on the right side

子树中的所有节点都可以这样获得:

def subtree(current):
    node_list = []
    if current.low != None:
        node_list += subtree(current.low)
    node_list += [current]
    if current.high != None:
        node_list += subtree(current.high)
    return node_list

P.S。请注意,通过利用那么多重叠并且所有区间都具有可比较的长度,我设法实现了一种基于排序和二分法的简单方法,这种方法在80年代完成,但我会说这是过于拟合...有趣的是,通过使用渐近分析,我发现它应该有应用程序。与使用树相同的运行时...

1 个答案:

答案 0 :(得分:0)

如果我正确理解您的问题,您正试图加快您的流程。 如果是这样,尝试创建一个真正的树而不是操纵列表。

看起来像:

class IntervalTreeNode():
    def __init__(self, parent, min, max):
        self.value      = (min,max)
        self.parent     = parent

        self.leftBranch = None
        self.rightBranch= None

    def insert(self, interval):
        ...

    def asList(self):
        """ return the list that is this node and all the subtree nodes """
        left=[]
        if (self.leftBranch != None):
            left = self.leftBranch.asList()
        right=[]
        if (self.rightBranch != None):
            left = self.rightBranch.asList()
        return [self.value] + left + right

然后在开始时创建一个internalTreeNode并插入所有你的间隔。 这样,如果您真的需要一个列表,您可以在每次需要结果时构建一个列表,而不是每次使用[x:][:x]在递归迭代中创建一个步骤,因为列表操作成本很高在python中运行。也可以直接使用节点而不是列表来大大加快进程,因为您只需要返回对节点的引用而不是添加一些列表。