概念性理解GPU的内存带宽

Question

我对GPU的内存带宽概念感到有些困惑。

根据 TESLA M 2090 GPU规范，它说 峰值带宽为177.6 GB / s。

所以当人们提到带宽时，它是指

• 单向流量的速度，如每秒可以读取的字节数， 来自设备

• 双向流量的速度，如每秒的字节数，可以读取和写入设备内存。

无论我在哪里读到这个术语，我都不会看到这个澄清

Answer 1

带宽是指在给定时间段内可以读取或的数据量。

同一总线用于读写。在给定的时钟周期中，总线可用于读或写。

Answer 2

总线上只有一组线路，因此无法同时写入或读取数据。理论上，带宽是相同的，总读取+写入= =总读取==总写入。

但实际上，如果要向设备写入大量连续的数据块，传输效率要高得多，这是最常见的用法，也是系统优化的用途。

修改。图形卡的内部存储器带宽（即卡上各种组件之间的存储器路径）远高于计算机的带宽。

它也复杂得多，有不同类型的内存以不同的方式连接到不同的处理器，制造商将选择使其听起来最高的数字 - 除了比较非常相似的卡的不同型号之外，这个数字实际上毫无意义来自同一GPU系列。