训练一些嵌入，保持其他固定

Question

我用Keras进行序列分类，使用RNN和嵌入。我的序列有点奇怪。我的文字夹杂着特殊的符号。单词与固定的，预先训练的嵌入相关联，但在训练期间必须修改特殊符号嵌入。

在学习过程中的嵌入层中，如何在更新其他嵌入层时保留一些嵌入？有没有办法掩盖那些不应修改的指数？或者这是自定义嵌入层的情况吗？

Answer 1

我不相信现有Embedding图层可以实现这一点。为了解决这个问题，我只想创建一个内部构建两个嵌入层的自定义图层，并将其中一个嵌入矩阵放入trainable_parameters。