带反馈的多标签文本分类

Question

我目前正在研究多标签多类文本分类问题。 在问题的某些部分，我需要根据算法决定将实例分类到某个类别的哪些特征，单词或短语向用户提供反馈？

例如对于像A B C D E F G H I J K L M N O P Q R这样的文本，我需要这样的输出：

我该如何考虑这个问题？这个问题的名称或关键字是什么？是否存在针对此类问题的现成python包？

Answer 1

您在寻找机器学习（ml）模型中的可解释性。关于此主题有很多discussion，并且正在逐渐获得更多关注，因为terrorism detection，precision-medicine等重要主题中的更多真实世界应用程序包含ml组件。

至少有一个python模块已经在做你似乎要求的事情，名为lime。

如果您对该任务感兴趣，还可以查看许多其他资源（例如extended presentation和article，conferences等。