了解LSTM自动编码器的输出，并使用它来检测序列中的异常值

Question

我试图建立一个LSTM模型，该模型作为输入接收整数序列并输出出现每个整数的概率。如果此概率较低，则应将整数视为异常。我尝试遵循本教程-https://towardsdatascience.com/lstm-autoencoder-for-extreme-rare-event-classification-in-keras-ce209a224cfb，尤其是我的模型所来自的地方。我的输入看起来像这样：

[[[3]
  [1]
  [2]
  [0]]

 [[3]
  [1]
  [2]
  [0]]

 [[3]
  [1]
  [2]
  [0]]

但是我不明白我从输出中获得了什么。

[[[ 2.7052343 ]
  [ 1.0618575 ]
  [ 1.8257084 ]
  [-0.54579014]]

 [[ 2.9069736 ]
  [ 1.0850943 ]
  [ 1.9787762 ]
  [ 0.01915958]]

 [[ 2.9069736 ]
  [ 1.0850943 ]
  [ 1.9787762 ]
  [ 0.01915958]]  

是重建错误吗？还是每个整数的概率？如果是这样，为什么它们不在0-1的范围内？如果有人可以解释我将不胜感激。

模型：

time_steps = 4
features = 1

train_keys_reshaped = train_integer_encoded.reshape(91, time_steps, features)
test_keys_reshaped = test_integer_encoded.reshape(25, time_steps, features)

model = Sequential()
model.add(LSTM(32, activation='relu', input_shape=(time_steps, features), return_sequences=True))
model.add(LSTM(16, activation='relu', return_sequences=False))
model.add(RepeatVector(time_steps)) # to convert 2D output into expected by decoder 3D
model.add(LSTM(16, activation='relu', return_sequences=True))
model.add(LSTM(32, activation='relu', return_sequences=True))
model.add(TimeDistributed(Dense(features)))

adam = optimizers.Adam(0.0001)
model.compile(loss='mse', optimizer=adam)

model_history = model.fit(train_keys_reshaped, train_keys_reshaped,
                          epochs=700,
                          validation_split=0.1)

predicted_probs = model.predict(test_keys_reshaped) 

Answer 1

正如您所说的，它是一种自动编码器。您的自动编码器尝试重建您的输入。 如您所见，输出值与输入值非常接近，没有太大的误差。因此自动编码器训练有素。

现在，如果要检测数据中的异常值，可以计算重构误差（可能是输入和输出之间的均方误差）并设置阈值。

如果重构误差大于阈值，那将是一个离群值，因为自动编码器没有经过训练就可以重建离群值数据。

该模式代表了更好的主意：

我希望这会有所帮助;）