如何计算灰度图像中简单深层网络的参数数量

Question

如何计算灰度图像中CNN的重量数。

这是代码：

定义输入图像大小

input_shape = (32, 32, 1)
flat_input_size = input_shape[0]*input_shape[1]*input_shape[2]
num_classes = 4

简单的深层网络

dnn_model = Sequential()
dnn_model.add(Dense(input_dim=flat_input_size, units=1000))
dnn_model.add(Activation("relu"))
dnn_model.add(Dense(units=512))
dnn_model.add(Activation("relu"))
dnn_model.add(Dense(units=256))
dnn_model.add(Activation("relu"))
dnn_model.add(Dense(units=num_classes))
dnn_model.add(Activation("softmax"))

下图是网络图

这是结果

算什么人帮我计算参数的数量。 如何获得1025000,512512,131328,1028，显示一些细节

Answer 1

对于具有偏差的致密层（偏差为+1），计算如下：

(input_neurons + 1) * output_neurons

在第一层的情况下，这是：

(32 * 32 + 1) * 1000 = 1025000

和第二个：

(1000 + 1) * 512 = 512512

依此类推。

编辑回答以反映评论中的其他问题：

对于卷积层，如评论中所述，您尝试为每个输出通道学习一个具有额外偏差的每个输入通道的滤波器内核。因此，参数的数量有：

kernel_width * kernel_height * input_channels * output_channels + output_channels = num_parameters

对于您的示例，我们从大小（无，16,16,32）到（无，14,14,64）的特征映射到（3,3）内核，我们得到以下计算： / p>

3 * 3 * 32 * 64 + 64 = 18496

这实际上是CNN中最重要的事情，即参数的数量与图像大小无关。