“要进行任何分类或回归，我们需要完全连接的层作为输出层”

Question

我正在浏览一些论文和教程，并且到处都提到：“要进行任何分类或回归，我们需要完全连接的层作为输出层”。为什么这样？它背后的直觉是什么？我无法与我的理解联系起来。如果我在最后一层使用辍学怎么办？

Answer 1

首先，辍学是一种从首要效应中调整错误训练的方法：抛出一些中间结论，并相信有效结论会自然而然地出现。辍学通常不用于最后一层。

完全连接的最后一层是用于分类的NN（神经网络）习惯用法：它为倒数第二层（在前一层）中的每个感知器赋予权重，以影响最终（最终）分类。

总体思路是，倒数第二层包含模型用于做出分类决策的最高级别的抽象和关系。对于每种可能的分类，每个分类都会获得一个“语音”（权重）。结果是最后是一个FC（完全连接）层。