Dask分布式工作人员的工作资源

时间:2017-08-28 08:58:34

标签: dask dask-distributed

在分布式多处理工作程序中定义工作程序资源(http://distributed.readthedocs.io/en/latest/resources.html)时,是否为所有进程定义了资源池?

例如,在我正在运行的工作主机上:

dask-worker --nprocs 8 --resources HOST=1

现在,如果我提交需要resources={"HOST":1}的任务,这是否保证该机器上只有一个进程会在特定时刻执行此任务?

1 个答案:

答案 0 :(得分:1)

resources关键字均匀应用于所有进程。 所有工作人员将获得一个HOST资源。通常,对于机构群集上的成熟部署,我建议避免使用--nprocs关键字,而是单独创建每个dask-worker流程;这更明确。

dask-worker scheduler-address:8786 --resources
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786