是什么让人们认为NN比现有模型具有更强的计算能力？

Question

我在维基百科中读到，在任意实数/有理数字段上定义的神经网络函数（以及算法模式和推测性的“transrecursive”模型）比我们今天使用的计算机具有更多的计算能力。当然这是一个俄罗斯维基百科（ru.wikipedia.org）的页面，可能没有得到适当的证明，但这不是这种谣言的唯一来源

现在，我真正不理解的是：字符串重写机器（NN是完全字符串重写机器，就像图灵机一样;只有编程语言不同）才能比普遍有能力的U更强大-机？

是的，描述性工具确实不同，但事实是这种类的任何功能都可以（很容易或不容易）变成合法的图灵机。我错了吗？我是否会错过重要的事情？

人们说这是什么原因？我知道今天已经广泛接受了不可判断性的fenomenum（尽管根据我所读的内容并未得到一致证明），但我并没有真正看到NN能够解决该特定问题的可能性最小。

加载项：Not consistently proven according to what I've read - 我的意思是你可能想在90年代中期之后看看A.Zenkin的（俄罗斯数学家）论文，他有说服力地假设G. Cantor概念的错误，包括超限集，不可数集，对角化方法（图灵不可判断证明中使用的方法）以及其他方法。甚至Goedel的不完备性定理也只是在21世纪才得到证实。这只是为了将Zenkin的工作插入到帖子中，因为我不知道CS社区知识的普及程度如此，如果看起来确实很愚蠢，请原谅我。

谢谢！

Answer 1

从我所做的很少的研究中，大多数这些trans-Turing系统的主张，或者Cantor对角化证明的不正确性等等，我们都应该说，在合法的数学界中是“有争议的”。像“曲柄”这样的词经常被抛出。

显然，强大的Church-Turing论文仍然没有得到证实，但正如你所指出的那样，真正没有理由相信人工神经网络构成超出一般递归/ UTM / lambda演算等的计算能力。

Answer 2

从理论的角度来看，我认为你是绝对正确的 - 神经网络几乎没有提供新的或不同的。

从实践的角度来看，神经网络只是将解决方案转换为并行执行自然且容易的形式的一种方式，而图灵机本质上是顺序的，并行执行它们的序列相对困难。实际上，过去几十年在CPU开发过程中所做的大部分工作基本上都在找出并行执行代码的方法，同时保持它按顺序执行的错觉。现代CPU中硬件的 lot 致力于维护这种错觉，并行执行变得明确的程度主要是承认保持错觉已经变得非常昂贵。

Answer 3

从外行人的角度来看，我看到了

• NN在解决某些类型问题方面可能比图灵机更有效，但它们在计算上并不强大。
• 即使NN比TM更强大，但是当前硬件上的执行会降低它们的功能，因为当前的硬件只是TM的附属物，只能执行有限TM可计算的问题。

Answer 4

任何“证明”Cantor的对角线方法不起作用的人都证明了他们自己的无能。参看威尔弗雷德·霍奇斯（Wilfred Hodges）An editor recalls some hopeless papers对这些尝试出了什么样的问题给出了令人惊讶的同情解释。

您可以提供超图灵神经网络的推测性描述，就像您可以提供其他类型的超图灵计算机的推测性描述一样：超级计算是可能的，并且机械超级计算机的推测性描述一直没有任何不连贯性。在超级计算机被规定为具有无限精细雕刻的地方，这些雕刻编码用于停机的神谕：这种机器的存在与牛顿力学一致，尽管不是量子力学。更确切地说，Church-Turing论文说他们无法构建，并且有两个理由相信Church-Turing论文是正确的：

1. 从未建造过这样的机器;和
2. 已经完成了将物理模型与计算模型联系起来的工作，在20世纪70年代早期由Robin Gandy重新开始工作，最近由David Deutsch（例如，Machines, Logic and Quantum Physics和John Tucker等人（例如， ，Computations via experiments with kinematic systems）认为物理学不支持超计算。

主要观点是，教会 - 图灵论文的真实性是一个经验事实，而不是一个数学事实。我们可以有信心是真实的，但不确定。

Answer 5

您可能对S. Franklin和M. Garzon，Neural computability感兴趣。有一个preview on Google。它讨论了神经网络的计算能力，并指出有传言说神经网络比图灵机更强大。