前馈神经网络

Question

如果我使用逻辑函数作为我的sigmoid，在我的纪元中是否会出现我的权重将大于1的点？只是想检查我是否正在为我的前馈实现编写正确的方法。感谢。

Answer 1

这是可能的。例如。如果你有一个没有偏置的1输入，1输出前馈网络，你唯一的训练输入是0.1，相应的输出是1，那么重量越高越好。逻辑函数只是确保输出介于0和1之间。