TF + eager + Keras中的手动权重正则化

时间:2019-08-28 22:31:24

标签: python tensorflow keras eager-execution

Train complicated nn models with tf.eager (better with TF2 symbolic support)

略有关系

我想使用自定义训练过程来训练网络。例如,我只想应用当前最难采样的批次中的渐变。或者我想共同损失训练多个模型。我想将训练过程分为前进,梯度计算和梯度应用,因为我不确定这些方法是否可以在{的常规model.compile-> model.fit方法中使用{1}}。

我不确定我会以手动方式完成此操作,也许可以使用Kerasmodel.compile处理渐变,但是我仍然对此主题感兴趣。

我想问以下问题

  1. 像下面的代码这样的代码可以正确计算正则化损失的梯度吗?
model.fit
  1. 我可以以某种方式检查梯度计算(尤其是正则化梯度)吗?

0 个答案:

没有答案