我有一个有大量输入的神经网络,我想训练它以实现只有一个输入很重要。首先,我用输入[1] = 1训练它,给出结果10 然后我用完全相同的输入训练,除了输入[1] = 0并且给定结果为0。
我训练它们直到错误为0才能切换到另一个,但是它们只是不断改变不同的权重直到输出等于给定的结果,它们从未弄清楚只有与输入相关的权重[1]需要关注。 这是一个常见的错误,可以说,可以以某种方式绕过吗?
聚苯乙烯。我正在使用Sigmoid和衍生物
答案 0 :(得分:1)
您正在做的是增量或选择性学习。每次你在一个新的数据上重新训练网络几个时期,你就过度拟合新的数据了。如果在您的情况下您不关心增量学习而您只关心数据集的结果,那么您最好在多次迭代中使用数据集中的批次,直到您的网络收敛并且不适合训练数据。