将输入数据规范化为Qnetwork

Question

众所周知，“正常”神经网络应使用标准化输入数据，因此一个变量对NN中的权重影响不大于其他变量。

但是，如果你有一个Qnetwork，你的训练数据和测试数据可能会有很大不同，并且可能会在一个连续的问题中随时间发生变化，那该怎么办？

我的想法是在没有输入数据标准化的情况下运行正常运行，然后从运行的输入数据中查看方差和均值，然后使用方差和均值来标准化我下一次运行的输入数据。 但是在这种情况下要做的标准是什么？

最好的问候SørenKoch

Answer 1

归一化输入可以带来更快的收敛。强烈建议对输入进行标准化。

由于使用非线性，网络将在不同的层中前进，不同层之间流动的数据将不再被归一化，因此，为了更快的收敛，我们经常使用批量归一化层。单位高斯数据总是有助于更快的收敛，因此确保尽可能保持单位高斯形式。