标签: neural-network propagation sigmoid
假设我们有三列,具有二进制特征(0,1)。数据集中的一行是0,0,0,标签为0。
我面临的问题是:
当为此行分配权重并激活sigmoid函数时,我总是会收到0.5,因为任意权重为0的零数组都会产生。
如何克服这个问题?
答案 0 :(得分:0)
除了乘以权重矩阵之外,您还可以添加偏差(这通常是在神经网络中完成的方式),因此您不一定会得到零向量。您还可以添加更多隐藏图层(但正如我所说,即使添加偏向量也会解决您提到的问题)。