Question

我在单个输入ex上构建了一个简单的NN训练。 [0,1]到信号输出[0,1,0,1 ...] 此NN的目的是查看NN可以记忆数据的程度。一切工作正常，但大约3-5个纪元后，NN停止学习并陷入0.4865的损失。我尝试过更改NN，优化程序的大小，甚至创建了自己的简单损失函数以尝试更好地了解正在发生的事情。对于ML来说，我是一个相对较新的人，你们可以帮助我找出哪里出了问题，那将是很大的问题，而且如果您还可以解释为什么这样做，将会非常感激。

def loss(Y1,Y2):
return abs(Y1-Y2)

model = keras.Sequential([
    keras.layers.Dense(1, activation='tanh'),
    keras.layers.Dense(1000, activation='tanh'),
    keras.layers.Dense(1000, activation='tanh'),
    keras.layers.Dense(400, activation='softmax')
])

model.compile(optimizer=keras.optimizers.RMSprop(lr=0.01, rho=0.9, epsilon=None, decay=0.0),
             loss=loss)

history = model.fit(X, Y, epochs=1000, batch_size=10)

一个人怎么会故意过度拟合神经网络？

0 个答案: