LSTM嵌入输出大小和LSTM的编号

Question

我不确定为什么我们只有大小为32的输出向量，而有LSTM 100？

我感到困惑的是，如果我们只有32个字的向量，如果进入LSTM，那么32个LSTM应该足以容纳它吗？

Model.add(Embedding(5000,32)
Model.add(LSTM(100)) 

Answer 1

那些是您模型的超参数，没有经过实验设置它们的最佳方法。在您的情况下，将单个单词嵌入到维度为32的向量中可能就足够了，但LSTM将处理它们的序列，并且可能需要更多容量（即维度）来存储有关多个单词的信息。在不知道目标或数据集的情况下，很难对这些参数的内容做出有根据的猜测。我们经常查看过去的研究论文，解决类似的问题并查看他们使用的超参数，然后通过实验对其进行调整。