标签: neural-network deep-learning activation-function
我正在阅读所有关于神经网络的精彩文章。 我知道我必须使用它,但我在理解激活层实际上做了什么方面遇到了问题。
有人可以用最简单的方式解释它吗?
如果我错了,请纠正我,但我认为它是一个重量(?)或单个神经元对于给定观察的重要性。这有点接近吗?
答案 0 :(得分:4)
激活功能旨在将非线性行为引入网络。没有任何激活的网络是完全线性的,这样就无法学到许多有趣的问题。
神经网络中激活的基本思想是功能组合,每层都有一个激活,随着网络的深入,这会“叠加”,增加了网络可以代表的功能的复杂性。