深层神经网络是否一次一层地或一层地教授？

Question

我正在努力掌握深层神经网络的概念。当他们被解释时，他们基本上说网络的每一层代表一个抽象层次，例如，第一层是关于边缘，下一层是关于形状，如轮子和关于轮子加起来的下一层，像一辆车。

这张图片几乎代表了这个概念：

当确定每层的权重时，这是一次完成一层还是所有层一起完成。您是先在一组标有不同边缘的图像上运行AI，然后是一组标有轮子之类的图像，然后是一组标有汽车的图像，或者您是否让网络自行解决？

Answer 1

您没有为每个图层提供深度网络监督，这在构建数据集方面过于复杂。您在这些幻灯片中看到的是对本身正在发生的事情的解释，而不是我们强制执行。有两种逐层技术（现在不太流行）和一切 - 联合（流行知道），但它们都没有使用额外的监督，你不告诉网络提取边缘，它只是从优化问题和网络结构中出现在实践中。

但是，也有深层架构没有这个属性，比如https://arxiv.org/abs/1603.09382或者一般来说 - 经常性的网络（在这个意义上也是＃34;深度＆＃34;）。因此，不要将此视为深度学习的属性，这只是在处理特定数据时的常见经验观察，而不是更多，仅此而已。