我在医学影像分类任务上训练了多人感知器（分类超声扫描图像是属于健康状况还是疾病状态）。该网络由2个完全连接的隐藏层和1个输出单元组成。然后，我想检查权重以查看图像中的哪些特征（例如，像素簇）对于网络来说区分不同类别是最重要的。由于我的网络有两层隐藏权重，我如何使用这些权重来量化每个图像像素的重要性？有人有经验可以指出我正确的文献吗？感谢。
答案 0 :(得分：0)
“其他作者已经描述了几种寻找显着性的方法。其中包括敏感性 基于解卷积的方法[4,5,6]，基于反卷积的方法[7,8]，或更复杂的方法 逐层相关传播（LRP）[9]。“
来源：https://arxiv.org/pdf/1704.07911.pdf
他们正在做你想做的事，但是对于CNN，也许你应该从MLP转到CNN，这似乎适合医学影像分类。
或许这篇论文更适合：
Randomization approach for understanding variable contributions in artificial neural networks