在缺少数据的神经网络中训练嵌入图层

时间:2017-03-13 16:05:30

标签: python keras

我有一个我想用keras培训的神经网络。 该网络的第一层是一个名为E的嵌入层,它将分类特征映射到向量中。

然后,此嵌入图层的输出将映射到另一个图层,我们将调用L

但有时,可能会错过此功能的价值。 所以我想:

  • 在预测阶段,当错过要素的值时,将E投影到L特征向量表示的平均值。
  • 在训练阶段,当缺少此值的输入时,不要更新特征向量表示的权重。

是否可以使用eras完成此任务?

修改

更确切地说,我的模型如下:我有两个分类输入,然后是

model_left = Sequential()
model_left.add(Embedding(FirstCategorical_count, 60, input_length=1))
model_right = Sequential()
model_right.add(Embedding(SecondCategorical_count, 60, input_length=1))
model = Sequential()
model.add(Merge([model_left, model_right], mode='concat'))
model.add(Flatten())
model.add(Dense(32))
model.add(Activation('sigmoid'))
model.add(Dense(1))

其中FirstCategorical_countSecondCategorical_count是两个输入的词汇量。两个输入都可能丢失,或者都没有,或者只有一个。

0 个答案:

没有答案