使用rnn验证损失的序列到序列模型不会低于某个限制

Question

graph of validation loss with the first 15 epochs我正在使用imdb电影对话数据集创建一个聊天机器人的序列到序列模型。 训练损失误差不断上升和下降。 这些是我的参数：

epochs = 15
batch_size = 32
rnn_size = 1024
num_layers = 3
encoding_embedding_size = 1024
decoding_embedding_size = 1024
learning_rate = 0.001
learning_rate_decay = 0.9
min_learning_rate = 0.0001
keep_probability = 0.5

输出大部分是重复的垃圾，没有意义。很抱歉，如果我缺少什么，那是我的第一个机器学习项目。 那么我该怎么做才能获得更好的输出并让模型更好地学习呢？