将模型拟合到新数据集是否会覆盖以前的训练进度？

Question

我想用Keras实现一些主动学习算法（modAL）。但是我想知道是否可以在以前的训练基础上启动多个训练实例（即多次运行.fit（）），或者是否重置权重。换句话说，训练是累加还是迭代？

如果每次培训都是从头开始的，是否有办法让模型建立在以前的培训上？

Answer 1

对于给定的迭代，将网络权重设置为特定值的输入提供给网络。对于每个施加的输入，反向传播用于计算梯度。对于100的批量大小，将应用100个输入，并对得到的100个梯度求平均值，以确定网络权重的新值。然后使用这些权重来处理下一批100个输入。因此，该过程是迭代的而不是累加的。对于为什么网络似乎没有学习，有很多可能的解释。