为什么摩尔定律需要并行计算？

Question

这是我的一本CS教科书中的一个问题。我很茫然。我不明白为什么它必然会导致并行计算。有人想指出我正确的方向吗？

Answer 1

摩尔定律说，价格合理的集成电路上的晶体管数量每两年就会增加一倍。

关于速度或晶体管密度或芯片尺寸的观察结果与原始观察结果有些正交。

这就是为什么我认为摩尔定律不可避免地导致并行计算：

如果你继续将晶体管的数量增加一倍，你会对它们做些什么呢？

• 更多说明！
• 更广泛的数据类型！
• 浮点数学！
• 更多缓存（L1，L2，L3）！
• 微观行动！
• 更多管道阶段！
• 分支预测！
• 投机执行！
• 数据预取！
• 单指令多数据！

最后，当你实现了所有可以想到使用所有额外晶体管的技巧时，你最终会想到：为什么我们不在芯片上做那些很酷的技巧TWICE？

巴达宾。巴达热潮。多核是不可避免的。

---

顺便提一下，我认为目前具有多个相同CPU核心的CPU的趋势最终也会消退，未来真正的处理器将拥有一个主核心，一系列通用核心和一系列特殊用途协处理器（如显卡，但带有CPU和缓存的片上）。

IBM Cell处理器（在PS3中）已经有点像这样了。它有一个主核和七个“协同处理单元”。

Answer 2

一个字 - Heat。

由于无法在当前晶体管级散热，工程师正在利用他们不断增长的晶体管预算来创建更多内核，而不是创建更复杂（和热）的流水线和更快的处理器。

摩尔定律根本没有死 - moore's law is about transistor density at a given cost。事实上，由于各种原因（如市场营销），工程师决定使用他们的晶体管预算来增加时钟周期。现在他们决定（由于散热问题）开始使用晶体管进行并行化，加上64位计算并降低功耗。

Answer 3

摩尔定律描述了由于在电路板上增加了更多晶体管，芯片性能有效翻倍的趋势。

由于器件的尺寸没有增加（如果反之亦然），那么由于芯片技术变得越来越小，制造越来越好，这些额外晶体管的空间显而易见。

然而，在某些时候，您将达到晶体管无法进一步最小化的阶段。由于产生的热量和制造成本，也不可能将芯片尺寸增加到一定程度以上。

这些限制需要一种提高性能的方法，而不仅仅是生产更复杂的芯片。

其中一种方法是在并行架构中采用更便宜，更简单的芯片，另一种方法是从传统的集成芯片转向量子计算 - 其定义就是并行处理。

值得注意的是，这个问题的标题更多地与观察到的法律结果（性能提升）有关，而不是实际的法律本身，这主要是对晶体管数量的观察。

Answer 4

我认为这是对free lunch is over文章

的引用 基本上，关于晶体管密度的摩尔定律的原始版本仍然存在。但是，关于处理速度每xx个月加倍的一个重要的衍生法则已经触底了。

因此，我们面临的未来处理器速度将略有上升，但我们将拥有更多核心和缓存。

Answer 5

这是一个奇怪的问题。摩尔定律不需要任何东西，它只是观察计算能力的进展，它并没有规定它必须以一定的速率增长。

Answer 6

提高处理器的速度会使操作温度过高，会在桌面上烧掉一个洞。这些芯片的制造商正在遇到一些他们无法解决的限制......比如光速。并行计算将使他们能够加速计算机而不会引发火灾。

Answer 7

晶体管和cpus等等越来越小，速度越来越快。唉，计算的热量和电压成本正在上升。热量和电压问题与实际物理尺寸最小值一样令人担忧。一个100ghz的芯片会吸收过多的电压而变得太热，但是100个1ghz的芯片会产生较少的问题。

Answer 8

有趣的是，在问题中提出并行计算“必须”的想法受到Amdahl定律的质疑，基本上说，并行处理器只会让你到目前为止，除非100％的程序是可并行化的（这是从来没有在现实世界中的情况。）

例如，如果您的程序在一个处理器上占用20分钟且可并行化50％，并且您购买大量处理器以加快速度，那么您的最短运行时间仍将超过10分钟。这忽略了成本和其他相关问题。

Answer 9

真正的答案完全不是技术性的，并不是硬件解释不是很棒。这就是摩尔定律越来越少的观察，更多的是期望。这种对计算机成倍增长的预期已经成为行业的推动力，这需要所有的并行性。

Answer 10

摩尔定律表明，IC中晶体管数量相对于成本的数量同比呈指数增长。

从历史上看，这部分是由于晶体管尺寸减小，而较小的晶体管也更快地切换。因为根据摩尔定律得到更快的晶体管，时钟速度增加了。因此，存在一种混淆，即摩尔定律意味着更快的处理器而不是更广泛的处理器。

对于经济生产的硅，散热导致速度增加达到3 GHz左右。

因此，如果您想要更便宜的计算，则更容易添加更多，更慢的电路。因此，目前最先进的商品处理器是多核的 - 它们越来越宽，但速度越来越快。

Graphene film transistors需要更少的功率，并且在大约30 GHz时执行，理论上的限制大约为0.6 THz。

当石墨烯技术在几年内达到商品化水平时，预计会出现另一次大变化，没有人会关心使用并行核心来提高性能，并回到狭窄的快速核心。另一方面，并​​发计算对于它自然适合的问题仍然很重要，所以你仍然必须知道如何处理多个执行单元。

Answer 11

因为正交计算失败了。我们应该去quantum。

Answer 12

摩尔定律需要并行计算，因为Moore's law is on the verge of/is dead。因此，考虑到这一点，如果将晶体管塞入IC变得越来越难（由于其他地方提到的一些原因），那么剩下的选择是增加更多的处理器和并行处理或去量子。

Answer 13

摩尔定律仍然有效。晶体管数量仍在增加。问题在于找出对所有这些晶体管有用的东西。我们不能通过使管道更深更宽来不断增加指令级并行性，因为证明指令之间独立性所需的电路在证明独立性所需的指令数量上非常大。我们不能因为热量而继续提高时钟速度。我们可以继续增加缓存大小，但我们已经达到了收益递减点。晶体管的唯一用途似乎是在芯片上放置更多内核，这意味着工程师弄清楚如何处理晶体管只是推动了抽象阶梯，现在程序员必须弄清楚要做什么所有这些核心。

Answer 14

我不认为摩尔定律需要并行计算，但它确实需要最终从纯粹的小型化转移。存在多种解决方案其中一个是并行计算，另一个是协同处理（它是经过实践的，但与并行计算不同。协同处理就是当你将工作卸载到专用CPU，如GPU，DSP等时。）

Answer 15

老实说，我真的不知道，但我的猜测是晶体管在某些时候可能不会变小，需要处理能力并行分散。

Answer 16

这是因为我们都沉迷于加速处理器的速度。经过多年的调节，我们预计会有更多的处理能力，年复一年。但由密集的晶体管引起的物理限制最终限制了时钟速度，所以增加必须来自不同的视角。

不一定是这样。英特尔凌动处理器的成功表明，处理器可以变得更小，更便宜。处理器公司将努力让我们保持“更大，更快”的跑步机，以保持其利润。而且我们愿意参与者，因为我们总能找到一种方法来使用更多的力量。