我是Microsoft CNTK的新手
Google Tensorflow使用grpc与每台机器进行通信, 但我不知道CNTK中用于分布式系统的管道,你能告诉我吗?
你能给我一些关于多机器,多GPU的例子的参考或网站吗? 我已经去过这个site,但我找不到多机器信息或代码。
谢谢! :)
答案 0 :(得分:1)
这已经在各种版本中发生了变化,但最新的信息是Linux和GPU下的二进制版本是使用Nvidia的NCCL 2库(自2.3版本)构建的,而在Windows下,它们是使用MS-MPI构建的。其他版本使用OpenMPI构建。
您要链接的页面包含大量信息,尤其是在这些部分中 关于the necessary changes to your Python script(它们是最小的)和how to invoke it。