神经网络0 vs -1

时间:2010-02-02 16:01:15

标签: math neural-network

在使用神经网络输入数据时,我曾见过几次使用-1而不是0的人。它如何更好,它是否会影响任何数学实现它?

编辑:使用前馈和后退

编辑2:我试了一下,但网络停止了学习,所以我假设数学必须在某处改变?

编辑3:终于找到了答案。二元数学与双极数不同。请参阅下面的答案。

3 个答案:

答案 0 :(得分:8)

最近发现,如果使用双极性超过二进制,则需要改变乙状结肠和乙状结构衍生物配方。

双极Sigmoid函数:f(x) = -1 + 2 / (1 + e^-x)

双极Sigmoid衍生物:f’(x) = 0.5 * (1 + f(x)) * (1 – f(x) )

答案 1 :(得分:0)

这是时间,但我记得,它对实现网络所需的数学没有影响(假设您没有使用某种网络类型,因为某种原因限制了任何网络类型)非负值的过程的一部分)。其中一个优点是它可以在输入之间进行更大的区分,并有助于放大学习信号。同样对于产出。

最近做过这个的人可能还有更多的话要说(比如0过关是否会产生影响;我认为确实如此)。实际上,其中一些取决于您正在使用的神经网络类型。我假设你在谈论backprop或其变体。

答案 2 :(得分:-1)

与0/1相比,网络使用-1/1输入快速学习。此外,如果使用-1/1输入,0表示“未知输入/噪音/无关紧要”。我会使用-1/1作为神经网络的输入。