Question

我在networkx中有一个有向无环图。每个节点代表一个任务，节点的前驱是任务依赖（给定的任务在其'依赖执行）之前不能执行。

我想在异步任务队列中“执行”图形，类似于celery提供的（以便我可以轮询作业的状态，检索结果等）。 Celery不提供创建DAG的能力（据我所知）并且一旦所有依赖关系完成就能够转移到task是至关重要的（DAG可能有多个路径，即使一个任务很慢/阻塞，可能会继续执行其他任务等。）

是否有任何简单的示例说明我如何实现这一目标，或者甚至可能将networkx与celery进行整合？

Answer 1

我认为这个功能可能有所帮助：

  # The graph G is represened by a dictionnary following this pattern:
  # G = { vertex: [ (successor1: weight1), (successor2: weight2),...   ]  }
  def progress ( G, start ):
     Q = [ start ] # contain tasks to execute
     done = [ ]    # contain executed tasks
     while len (Q) > 0: # still there tasks to execute ?
        task = Q.pop(0) # pick up the oldest one 
        ready = True
        for T in G:     # make sure all predecessors are executed
           for S, w in G[T]:
              if S == task and and S not in done:# found not executed predecessor 
                 ready = False
                 break
           if not ready : break
        if not ready:
           Q.appen(task) # the task is not ready for execution
        else:
           execute(task)
           done.appen(task) # execute the task
           for S, w in G[task]:# and explore all its successors
              Q.append(S)

Answer 2

您可以使用的一个库是 taskgraph。它允许您定义任务图，然后以多线程/多进程的方式执行这些任务。它避免了重新运行结果已经是最新的任务，类似于 make 程序。

要执行您的 networkx 图，您需要迭代 topological order 中的所有节点，收集每个节点的即时依赖项，然后调用 task_graph.add_task。此函数将返回新添加任务的句柄，让您可以将其用作后续添加任务的依赖项（这就是节点迭代顺序很重要的原因）

有关替代解决方案，另请参阅 this question。

Networkx是一个任务队列吗？

2 个答案: