测试期间的批量标准化

Question

我正在研究二维尺寸为140 * 6的二维时间序列问题，以便使用CNN进行二进制分类。我没有使用任何缩放和规范化技术，而是在训练过程中将数据直接馈送到具有3个隐藏层和批处理大小为256的批处理规范化层的CNN，因为我必须实时测试它以及批处理大小为1的批处理规范如何工作则没有为任何训练层计算任何均值或标准差。也应在以后的最终测试中将批归一化用于正向通过，或者仅应为训练层计算均值和标准差并使用。

Answer 1

在测试期间不使用批处理规范化。这样做的原因是批次归一化用于缓解训练数据中不同批次之间的协方差偏移问题。协方差移动会导致不良模型受到训练，因此我们使用它。在测试过程中没有作用。

如果您使用批处理大小为1的批处理规范化，那么这就是实例规范化。