我有一个应用程序，我希望在多个进程之间共享一个GPU。也就是说，这些进程中的每一个都会创建自己的CUDA或OpenCL上下文，目标是相同的GPU。根据Fermi白皮书[1]，应用程序级上下文切换小于25微秒，但是在GPU上启动时启动有效地序列化 - 因此Fermi不能很好地完成这项工作。根据Kepler白皮书[2]，有一种称为Hyper-Q的东西允许来自多个CUDA流，MPI进程或进程中的线程的多达32个同时连接。
我的问题：是否有人在Kepler GPU上尝试过此操作并验证其内核是否在从不同进程调度时同时运行？这只是一个CUDA功能，还是可以在Nvidia GPU上与OpenCL一起使用？ AMD的GPU是否支持类似的东西？
[2] http://www.nvidia.com/content/PDF/kepler/NVIDIA-Kepler-GK110-Architecture-Whitepaper.pdf
答案 0 :(得分：7)
在回答第一个问题时，NVIDIA已在博客here中发布了一些超Q值结果。该博客指出，移植CP2K的开发人员能够更快地获得加速结果，因为hyper-Q允许他们或多或少地使用应用程序的MPI结构并在单个GPU上运行多个级别，并获得这种方式有效的GPU利用率更高。正如评论中所提到的，这个（hyper-Q）功能目前仅适用于K20处理器，因为它依赖于GK110 GPU。
答案 1 :(得分：-2)
我从Fermi架构运行同步内核它运行得非常好，事实上，它通常是从硬件中获得高占用率的唯一方法。我使用OpenCL并且您需要从单独的cpu线程运行单独的命令队列才能执行此操作。 Hyper-Q能够从另一个内核中调度新数据并行内核。这只是在开普勒。