在异常检测中查找原因

Question

我们有一个使用自动编码器的异常检测模型，该模型具有13个参数。我们要检测哪个参数导致了此异常。

到目前为止，我们正在探索如何执行此操作，但还没有遇到任何问题。谁能建议一些算法来做到这一点？

Answer 1

SHAP values为此很好。 shap Python库支持scikit-learn IsolationForest since October 2019，因此这是最简单的方法。

对于在Keras / Tensorflow中实现的自动编码器，您应该可以使用DeepExplainer。还有一个通用/黑匣子KernelExplainer，可以应用于任何模型。