使用LSTM标记序列中的未知标记

Question

我使用a，b，c标签标记了数据集，并且必须使用a，b，c标记其他类别的传入序列。它应该对已知序列进行分类和标记，或者说我以前没见过它。

我想我应该自定义我的网络以使标签独立。因此，标签分数的总和不应为1，每个标签分数都独立于其他分数。

E.g。

sequence a : .95, 0.1, 0,01 
sequence b : .02, 0.87, 0.9
unknown : .2, .15, .12

那么我应该在神经网络中改变什么设置：

model.add(LSTM(128, input_dim=128, input_length=10, unroll=True, implementation=0))
model.add(Dense(3, activation='sigmoid'))
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=[accuracy'])

Answer 1

您所需要的只是Dense(4,...)而不是Dense (3,...)。

四个输出之间完全没有依赖关系。如果激活是softmax，它将加1。