将SHAP值用于PyTorch RNN / LSTM

Question

有没有办法做到以上几点？ SHAP软件包非常有用，并且对于PyTorch神经网络非常有效。对于PyTorch RNN，我得到以下错误消息（对于LSTM相同）：

似乎不起作用，但是有解决方法吗？有没有人有使用PyTorch和SHAP的经验？

Answer 1

PyTorch DeepExplainer尚不支持RNN（将弹出警告，让您知道尚不支持哪些模块：警告：不可识别的nn.Module：RNN）。在这种情况下，解释器假定模块是线性的，并且不更改梯度。由于RNN包含非线性，这可能是导致问题的原因。”这是我在Shap上找到的答案。

尝试检查基于PyTorch的{​​{3}}。