使用多个CUDA GPU

Question

我使用NVIDIA Grid K2进行CUDA编程。它有两个GPU，每个GPU有1536个核心。 是否可以在单个或多个内核调用中使用这两个GPU？

Answer 1

不，这是不可能的。像Grid K2这样的多GPU卡上的每个GPU都是一个独立的CUDA设备，具有自己的内存。因此，每个GPU都有自己的CUDA上下文，必须明确编程。 CUDA驱动程序或运行时不会自动将这两个设备用作内核启动的单个虚拟设备。