每个CUDA内核的最大指令？每个CUDA流的最大操作数？

Question

是否有特定CUDA流可能有待处理的最大CUDA操作数？我没有在任何文档中看到这样的限制。

我也对每个CUDA内核的最大指令数的相关数字感兴趣。

Answer 1

每个内核有最大数量的CUDA PTX指令：

对于Compute Capability低于2.0（即在Fermi微体系结构之前）的GPU，
• 200万
• 5.15亿用于计算能力为2.0或更高的GPU（例如Fermi，Kepler，Maxwell，......）

此信息可在CUDA C Programming Guide中找到，只需查找“每个内核的最大指令数”。

对于流，如果在给定流上运行的内核遵循此限制，则不存在此类流指令限制。正如@talonmies指出的那样，流是主机端操作队列，它们与将代码加载到GPU上无关。