了解神经网络的内存使用情况

Question

我试图了解如何执行here显示的信令内存使用量计算（向下滚动到 VGGNet 部分）。

计算输出以查看VGGNet网络使用的内存量：

TOTAL memory: 24M * 4 bytes ~= 93MB

然而，将列表中每个层的所有memory:值相加只能得到大约15M * 4个字节，并且我不确定此总数中的其余内容来自何处。

Answer 1

您忘了为FC添加内存：

  

FC：[1x1x4096]记忆：4096个体重：7 * 7 * 512 * 4096 = 102,760,448

     

FC：[1x1x4096]记忆：4096个体重：4096 * 4096 = 16,777,216

     

FC：[1x1x1000]记忆：1000个体重：4096 * 1000 = 4,096,000

我认为这是计算中丢失的9M。