使用预先训练的单词嵌入和真正的价值

Question

我创建了一个带有Keras的NER模型，带有预先训练过的单词嵌入。

我想在我的模型中添加一个带有long字符串的标记。

我找不到办法。

def model_keras(windows, embedding_w):
    context_columns = []
    for i in range(windows):
         context_columns = Sequential()
         context_columns.add(Embedding(....weights = [embedding_w],trainable=False)
         context_columns += [context_columns]
    ContextWindows = Merge(context_columns, mode='concat')
    model = Sequential()
    model.add(ContextWindows)
    model.add(SimpleRNN...)

Answer 1

事实上，理想情况下，我希望有一个像这样的ContextWindows：

 [embeddingWord1 valueCentralWord (if number else 0)  isNumberCentralWord(0/1)   isintvaleurCentralWord(0/1) embeddingWord2] 

目前，我有：

 [embeddingWord1 embeddingCentralWord embeddingWord2]