我正在使用全卷积神经网络（FCN）进行Keras库中的图像分割。我的网络中大约有35个时代（根据经验）。
由于某些物理后果，我更喜欢应用一个具有零个角单元（权重）的独特的自定义初始化程序（3 * 3）。我的问题是： 我应该在每个时期的开始还是在第一个时期之前应用自定义初始化程序（3 * 3）？ 我的理解是，如果我在每个时期的开始应用自定义初始化程序，这会使每个时期在字面上彼此相等。我对么？
从第一个时期开始，重点就在于找到优化的滤波器。如果所有纪元的起点都相似，那么结束点将是相同的（因为每个纪元可以承受具有完全相同的初始化程序的层的完全相同的块）。
感谢所有评论。
答案 0 :(得分：0)
是的，我同意您的理解，即在每个时期开始时对内核权重进行自定义/随机初始化，从本质上讲，我们在每个时期结束时都舍弃了模型学习的权重，而从零开始下一个时代。因此，权重/偏差的自定义/随机初始化通常仅在训练模型开始时执行。
但是，如果在训练模型时需要执行内核值的自定义初始化（在您的情况下，在每个时期的开始将过滤器的角权重值分配为0），则可以 学习的过滤器权重，其蒙版与过滤器的尺寸相同，并且在拐角处包含0，在其余索引处包含1。