CUDA warp调度：来自当前块的另一个warp还是来自另一个块的warp？

Question

当SM上正在运行的warp停止时，必须在SM上安排另一个warp来交换停顿的warp以覆盖延迟。但是，与停滞的经线相同的块的替代品是否必须属于另一个块，或两种情况都可以？

Answer 1

该主题是GPU架构社区的一项开放性研究。人们已经在here评估了几个扭曲调度策略。请查看以下最近的论文，了解不同调度策略的优缺点：

• 有些人建议使用两级扭曲调度来获取能量 效率：Energy-efficient Mechanisms for Managing Thread Context in Throughput Processors
• 有些人建议使用两级warp调度来改进 延迟隐藏：Improving GPU Performance via Large Warps and Two-Level Warp Scheduling
• 其他人建议按顺序减少扭曲 对SM的L1缓存进行争用： Cache-Conscious Wavefront Scheduling
• 最后，来自NVIDIA研究人员的here is a patent提议 用于改善延迟隐藏和能效的调度程序。

在回答您的问题时，这两个政策都可以，可以在任何架构中使用。但真正的下属尚未向公众披露。