内存绑定内核和GPU中的计算绑定内核

Question

什么是“内存绑定内核和GPU中的计算绑定内核”？

这与GPU的性能有关吗？

Answer 1

非正式地，如果在执行内存指令时花费了大部分内核时间，则内核受内存限制。相反，如果大多数操作是ALU-FPU指令，则内核是计算绑定的。 GPU具有高内存和计算带宽，可适用于这两种类别。这些术语用于分类，并指出哪些优化技术可以显着提高应用程序的性能。

每个类别的工作负载都有不同的优化提示。例如，对于内存绑定工作负载：利用共享内存，内存访问合并和内存驻留。对于计算限制的工作负载，减少分支发散，ALU-FPU和SFU之间的交错计算，并提供足够的独立指令来利用ILP。