标签： deep-learning neural-network
我正在读这本书，使之成为您自己的神经网络。在书中，它说：“另一个问题是零值信号或权重。这也扼杀了学习更好权重的能力。”，所以我避免初始化权重为全零。
但是我认为训练时权重可能为零，这似乎是不可避免的。
例如，权重值为-0.3，然后在训练中进行更新，先添加0.1，然后再添加0.2，此权重现在变为零，并且永远不会更新。这太难学了吗？ 有什么建议么？谢谢