我们已经构建了一个由Docker容器组成的系统,每个容器都运行Ray。一个容器担当头的角色,另一个充当工人。 有一种方法可以并行运行我们的自定义环境步骤,而每个容器的每个工作人员一个环境正在运行? Rays文档(https://ray.readthedocs.io/en/latest/rllib-env.html?highlight=remote_worker_envs#vectorized)中提到的方法对我们没有用,因为我们希望每个工作人员都拥有一个env。
答案 0 :(得分:0)
每个工作人员一个环境是默认设置。您可以通过增加num_workers
来增加工人数量。
还有remote_worker_envs
设置,它将在单独的参与者中运行env,但在一个参与者中运行策略网络以进行推断。但是,与仅增加num_workers
相比,这具有更高的通信开销,因此不建议这样做。