神经网络结构

Question

我目前正在构建一个神经网络库。为简单起见，我将其构建为对象图。我想知道是否有人可以量化基于阵列的方法的性能优势。我现在所拥有的非常适合构建接近任意复杂性的网络。支持常规（反向提供）网络以及循环网络。我正在考虑让训练有素的网络“编译”成一些“更简单”的形式，如数组。

我只是想看看那里是否有人有任何实际的建议或经验建立神经网络，并将其部署到生产中。将最终产品基于数组而不是基于对象图是否有任何好处？

P.S内存占用不如速度重要。

Answer 1

人们已经开始在AI中使用GPGPU技术，并且以矩阵形式使用神经网络可以在典型的图形卡中利用更快的矩阵运算。

Answer 2

这完全取决于您使用的语言 - 我假设您使用的是C衍生物。

在我的实现中，我发现对象图方法远远优越。在速度方面存在一些权衡，但维护的难易程度超过了对象查找调用。这一切都取决于你是在寻找训练速度还是解决速度......我假设你最担心训练速度？

如果需要，您总是可以最终微观优化一些对象调用问题。

考虑到你对网络进行子网的次要动机，我认为以对象为基础更为重要 - 它可以更容易地完成部分工作。

Answer 3

无论你实施它，都必须永远不要忘记：

http://xkcd.com/534/

Answer 4

已经有一段时间了，但我记得速度通常只是训练神经网络时的一个问题。

Answer 5

我没有任何写这样一个图书馆的个人经历，但我可以把你链接到一些你可以学习的流行的开源项目。 （就个人而言，我只会使用其中一个现有的库。）

• Fast Artificial Neural Network Library
• NeuronDotNet