OpenMPI (V2.0.2) 中的分段环 Allreduce 是什么？它是如何流水线化的？

Question

我一直在尝试理解 OpenMPI (V2.0.2) 中的 Segemented Ring Allreduce。但我没能弄清楚这个流水线环 allreduce，尤其是这些阶段是如何流水线化的。 （即计算阶段 1 (b) 似乎同时执行这两个阶段，而不是“流水线”。） MPI 专家能否提供此分段环 Allreduce 背后的动机以及有关流水线的详细信息？

真的很感激， 狮子座

Answer 1

我认为这个问题已经在https://github.com/open-mpi/ompi/issues/4067得到了回答

关于 Open MPI 内部的非常具体的问题，最好直接向 Open MPI 邮件列表或github repository询问。