TensorFlow2 有什么好的可解释性库吗？

Question

我有一个训练有素的神经网络（使用 TensorFlow2 开发），我需要表格数据中每一行的 SHAP 值或任何其他可解释性。

我尝试使用 SHAP，但 DeepExplainer 和 GradientExplainer 都不起作用。我发现的原因主要是将 TF2 与 SHAP 一起使用。

是否有其他库可以使用 TF2 处理表格数据？

谢谢

Answer 1

您使用的是哪个 TensorFlow 和 SHAP 版本。 有人说，SHAP 尚未正确实施。也许这有帮助：https://github.com/GoogleCloudPlatform/ml-design-patterns/issues/21

我不知道任何其他库这样做。究竟什么“不起作用”？错误的数字？任何日志/错误/示例数据？