图解释深度学习

时间:2017-07-12 10:09:10

标签: deep-learning recurrent-neural-network rnn

我正在尝试建立一个对句子进行分类的模型。我正在使用Reccurent神经网络(RNN)模型“GRUcell”,我有以下图表。我正在使用的损失函数是交叉熵。 你可以解释一下为什么在每次迭代后接近0选择到1之后的损失? 我找不到任何解释,谢谢。 enter image description here

1 个答案:

答案 0 :(得分:-1)

根据您提供的信息,它看起来像是在批次结束时下降,并在下一批次开始时再次返回。这可能是由于学习率高而且随着时间的推移衰减不足。 尝试调整参数,看看是否有帮助。

干杯