神经网络的大输出

Question

是否可以从任意大的神经网络获得输出？我知道激活函数不需要是一个sigmoid，但每当我尝试使用线性函数（即没有激活函数）时，我的输出会迅速下降到接近零并且一切都会崩溃。

作为一个例子，即使输出是一个大于1的非整数，是否可能有一个输出是输入的网络？

很抱歉，如果这是一个重复的问题（似乎会是这样），但我找不到处理这个确切问题的线程。如果需要，我会发布代码，但有很多，这似乎是一个普遍的问题......

Answer 1

只要在输出层中使用无界激活功能，并且不会将权重限制为“过多”，输出值就没有限制（正则化方法，例如重量衰减会迫使网络变小）值）。