如何在深度模型上应用LIME解释器?

时间:2020-10-25 18:40:12

标签: model lime

我对使用嵌入的文本分类问题有很深的模型,我想在该模型上应用LIME,以使用以下代码分析令牌对分类结果的影响 首先:对于这部分代码,代码会话始终被collab中断,我不知道为什么

from lime import lime_text
from sklearn.pipeline import make_pipeline
print(type(raw_embedding))
c = make_pipeline(raw_embedding, model)

所以我决定只进行一次嵌入

exp = explainer.explain_instance(padded_X_test, MyDeepModel.predict_proba(padded_X_test), num_features=6)

但出现错误

All intermediate steps should be transformers and implement fit and transform

我读到LIME与分类器一起工作时是一个黑匣子,但是如上所述,我从未通过BERT(会话中断)或深度神经网络获得结果,我想知道我做错了什么?

0 个答案:

没有答案