Question

我正在设计一个带有22个输入和1个输出（1或0）的前馈BackPropogation ANN。 NN有3层，正在使用10个隐藏的神经元。当我运行NN时，它仅稍微改变了权重，输出的总误差约为40％。最初，我认为它过度/不合适但在我改变隐藏神经元的数量后，没有任何改变。

N是输入数量（22）

M是隐藏神经元的数量（10）

这是我用来反向传播的代码

oin是在进入sigmoid函数之前计算的输出

oout是经过sigmoid函数后的输出

double odelta = sigmoidDerivative(oin) * (TARGET_VALUE1[i] - oout);
    double dobias = 0.0;
    double doweight[] = new double[m];

    for(int j = 0; j < m; j++)
    {
        doweight[j] = (ALPHA * odelta * hout[j]) + (MU * (oweight[j] - oweight2[j]));
        oweight2[j] = oweight[j];
        oweight[j] += doweight[j];
    } // j

    dobias = (ALPHA * odelta) + (MU * (obias - obias2));
    obias2 = obias;
    obias += dobias;

    updateHidden(N, m, odelta);

这是我用来改变隐藏神经元的代码。

 for(int j = 0; j < m; j++)
        {
            hdelta = (d * oweight[j]) * sigmoidDerivative(hin[j]);

            for(int i = 0; i < n; i++)
            {
                dhweight[i][j] = (ALPHA * hdelta * inputNeuron[i]) + (MU * (hweight[i][j] - hweight2[i][j]));
                hweight2[i][j] = hweight[i][j];
                hweight[i][j] += dhweight[i][j];


            } 

            dhbias[j] = (ALPHA * hdelta) + (MU * (hbias[j] - hbias2[j]));
            hbias2[j] = hbias[j];
            hbias[j] += dhbias[j];
        } `

Answer 1

您正在学习您的网络，以便在一个节点上输出两个类。连接到该网络的权重适合于预测单个类而不是另一个类。所以大部分时间你的权重都适应你数据中的支配类。为避免出现此问题，请在输出中添加另一个节点以使两个节点引用一个类。

前馈反向传播中的权重不会发生变化

1 个答案: