为什么NNtool盒子中神经网络的输出激活函数的建议是纯粹的？

Question

当我研究神经网络时，数学推导总是在隐藏层和输出层中使用sigma函数。但是Mathworks中的NNtool框建议用户在隐藏层中使用sigma，在输出层中使用pureline。谁能告诉我为什么输出层可以是纯线？我无法理解这种激活功能的原因。

http://imgur.com/9V2HIlF //传统的反向传播公式

作为公式，如果我使用pureline函数，结果将会非常不同。但我没有看到输出激活函数是纯线的任何反向传播的推导。我只是想知道是否有任何理由使用prureline，而它与传统的反向传播不同。

Answer 1

在人工神经网络中使用S形函数作为激活函数的目的是限制输出范围。如果在隐藏层使用了它，隐藏层节点的数量是有限的，输出层节点的增益是有界的，那么输出层节点将具有有界输出。

但是，这只是一个建议。您仍然可以在输出层中使用sigmoid。