在处理深度学习时，为什么GPU比CPUS更有用？

Question

在几乎大多数情况下，我在处理深度学习中的任何执行部分时遇到了GPU。

Answer 1

这与GPU架构与CPU有关。事实证明，游戏需要大量的矩阵乘法，因此GPU架构针对这些类型的操作进行了优化，特别是它们针对高速率浮点运算进行了优化。有关此here

的更多信息

神经网络主要是矩阵乘法。

例如：

是具有一个隐藏层的简单神经网络的数学公式。 W_h是一个权重矩阵，它乘以输入x，我们在其中添加偏差b_h。线性方程W_hx + b_h可以压缩为单个矩阵乘法。 sigma是一种类似S形的非线性激活。外部S形再次是矩阵乘法。因此GPU