我一直在尝试了解OpenMPI（V2.0.2）中的Segemented Ring Allreduce。但我没有弄清楚这个流水线环allreduce，尤其是相位如何流水线。 （即计算阶段1（b）似乎同时执行两个阶段，而不是＆＃34;管道和＃34;。）MPI专家能否提供此分段环Allreduce背后的动机和管道的详细信息？
真的很感激， 利奥
答案 0 :(得分：1)
我认为已经在this post
询问并回答了这个问题有关Open MPI内部的非常具体的问题，最好直接询问Open MPI邮件列表或https://github.com/open-mpi/ompi/issues/4067