在自适应模式下使用Dask时,所有分配给一名工人的任务

时间:2018-08-09 23:03:00

标签: dask

通常,使用Dask时,一切正常。但是,当我将Dask与自适应群集一起使用时,我发现有时所有任务都分配给一个工作人员。为什么会这样?

1 个答案:

答案 0 :(得分:0)

这应该被视为可用性错误,并且提出与此有关的问题是合理的。

但是,要解释发生了什么(至少在今天是2018年8月9日),可能会发生什么事

  1. 您的调度程序首先没有任何任务,因此也没有分配任何工人
  2. 您从客户那里提交了很多工作,调度程序做出了回应,并要求许多工作人员
  3. 第一名员工到达,调度员将所有工作交给了
  4. 几秒钟后,其他几名工人到达。然后,调度程序继续在可用工作人员之间进行负载平衡

理想情况下,负载平衡试探法应能应对这种情况。在Dask的较旧版本中,效果较差,但是通常很好。我建议先将您的daskdistributed软件包的版本更新为最新版本,如果不起作用,请报告一个问题,并举一个最小的例子。