以公式方式更新Keras层中的参数

时间:2019-04-10 22:42:11

标签: python tensorflow keras

我正在尝试在Keras中编写一些自定义图层。最终目标是将某些参数(在训练过程中优化每批数据后根据固定公式更新)传递给损失函数。我不认为可以在Keras中使用动态损失函数,但我应该能够使用多个输入和自定义层将这些参数传递给损失函数。

我想知道是否可以在Keras中创建一个层,该层的参数不可训练(并且在训练过程中根本没有优化),而是在每个批次结束时根据固定公式进行更新优化培训过程。

我可以给出的最简单的示例:我想优化与交叉熵成比例的东西(c * cross_entropy),而不是优化通用成本函数(例如交叉熵)。在训练过程中处理了一批数据后,我想设置例如c = 1.2 * c,并将其用作该批数据中的c值。 (在这种情况下,作为正常数乘以损失函数应该不会影响最小值,这在某种程度上应该是无用的,但是与我实际需要做的相当接近)。

0 个答案:

没有答案