深度神经网络中有多少个隐藏层

时间:2015-07-18 06:06:27

标签: machine-learning artificial-intelligence neural-network deep-learning

有人能告诉我“通常”深层神经网络有多少层?深度有多深?

据我所知,仍然很难说出隐藏层的具体数量。但有人能告诉我,就像一些例子,研究人员,开发人员在深度学习项目中使用了多少隐藏的层次?

非常感谢。

1 个答案:

答案 0 :(得分:5)

这完全取决于你尝试做模型的问题。你拥有的层越多,训练网络的难度就越大(需要更多的计算能力)。然而,层越深,它可以解决的问题就越复杂。

杰弗里·辛顿在他的tutorial中写道:

  

AI程序应使用多少行代码以及需要多长时间   每一行都是? - 这显然是一个愚蠢的问题。

     

•深信仰网   给创作者很多自由。

     

- 如何最好地利用它   自由取决于任务。

     

- 有足够的狭窄层,我们可以建模   二元向量的任何分布(Sutskever& Hinton,2007)

     

•如果自由吓到你,坚持浅模型的凸优化   这显然不足以做人工智能。

据我所知,层数通常不是很大。 Here ImageNet大规模视觉识别挑战2014 ),例如谷歌团队使用了22层网。