标签： deep-learning embedding
我有一个深度学习模型，它具有不同的长度特征。该模型在训练过程中学习了特征的嵌入，并且我将这些嵌入用作SHAP的输入，以便评估特征的重要性。在给定嵌入特征的情况下，如何评估特征归因（例如，大小为20的矢量和20个SHAPley值）？向量上的总和和平均值似乎都存在问题，并且AFAIK不能代表实际贡献