当前尝试实现如下所示的“ shap”解释器:“ https://slundberg.github.io/shap/notebooks/deep_explainer/Front%20Page%20DeepExplainer%20MNIST%20Example.html”,但Cifar10数据集除外。
我的原始图像没有显示在左侧,结果是黑色方块。以下其他图片似乎正常工作。
代码与他们使用的代码基本相同,因此我不确定出了什么问题(也许与RGB有关?)。
import shap
import numpy as np
# select a set of background examples to take an expectation over
background = x_train[np.random.choice(x_train.shape[0], 100, replace=False)]
# explain predictions of the model
e = shap.DeepExplainer(model, background)
shap_values = e.shap_values(x_test[1:5])
shap.image_plot(shap_values, -x_test[1:5])