在分布式多处理工作程序中定义工作程序资源(http://distributed.readthedocs.io/en/latest/resources.html)时,是否为所有进程定义了资源池?
例如,在我正在运行的工作主机上:
dask-worker --nprocs 8 --resources HOST=1
现在,如果我提交需要resources={"HOST":1}
的任务,这是否保证该机器上只有一个进程会在特定时刻执行此任务?
答案 0 :(得分:1)
resources关键字均匀应用于所有进程。 所有工作人员将获得一个HOST
资源。通常,对于机构群集上的成熟部署,我建议避免使用--nprocs
关键字,而是单独创建每个dask-worker流程;这更明确。
dask-worker scheduler-address:8786 --resources
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786
dask-worker scheduler-address:8786