如何在分类任务中可视化注意机制？

Question

我已经设法使用@cbaziotis implementation采用的注意机制完成实验，现在我与可视化混淆了。我也不太了解热图。如果你们能向我解释这些，那就意味着很多：

1. 什么是热图？如何阅读？
2. 注意机制中可视化的内容是什么？重量？
3. 可视化注意机制的代码，与@ cbaziotis＆＃39;实施

提前致谢！

Answer 1

通常，＆＃34;热图＆＃34;是一个2D强度图像，其中暗区=＆＃34;冷却＆＃34;区域和亮区=＆＃34;热＆＃34;区域。
在＆＃34;注意地图＆＃34;的背景​​下，地图的＆＃34;酷＆＃34; /黑暗区域表示网络没有注意的地方，而＃34;热＆＃34; /明亮＆＃ 34;区域是网络所关注的区域。
它通常依赖于实现，但通常注意热图表示注意力量：在进行预测时如何权衡输入的不同区域。 ＆＃34; hot＆＃34;区域具有较高的权重，因此它们对输出预测的贡献更大，影响更大。