CNTK 中分布式系统使用哪个管道？

Question

我是 Microsoft CNTK 的新手

Google Tensorflow 使用 grpc 与每台机器进行通信， 但是我不知道 CNTK 中分布式系统使用的是哪个管道，你能告诉我吗？

您能给我一些关于多机器、多 GPU 示例的参考资料或网站吗？ 我已经去过这个site，但是找不到多机信息或代码。

谢谢！ :)

Answer 1

这已经在不同版本中发生了变化，但最新信息是 Linux 和 GPU 下的二进制版本是使用 Nvidia 的 NCCL 2 库（从 2.3 版开始）构建的，而在 Windows 下它们是使用 MS-MPI 构建的。其他版本是使用 OpenMPI 构建的。

您链接到的页面包含大量信息，尤其是在这些部分中 关于the necessary changes to your Python script（它们是最小的）和how to invoke it。