TensorFlow.js中的成本函数正则化

时间:2019-03-21 10:59:31

标签: javascript tensorflow neural-network regularized

我想知道是否有人可以帮助我。我是TensorFlow.js(JavaScript版本)的新手。 我建立了一个神经网络,想在成本函数(损失函数)中添加一个正则项。

我可以在JavaScript API文档中看到正则化器,但无法弄清楚如何使用它们。这些层可以有某种正则化器与它们关联,但是成本函数未在这些层中定义,因此我认为这不是我想要的。

我浏览了GitHub上的源代码。我找到了一些提及正则化的公开票。我还发现了将L2或L1范数应用于向量的正则化函数。我可以尝试使用正则化函数编写一个增加成本函数的函数,但是当一个函数已经存在时,我不想花那么多精力。 TensorFlow的python版本确实包含了我想要的东西。有人知道我要查找的内容是否已经存在于javascript版本中,如果存在,我如何实现它?谢谢。

1 个答案:

答案 0 :(得分:1)

假设TensorFlow在Python和Javascript中以相同的方式运行,看起来您确实通过各层将权重的正则化添加到了cost函数。从数学的角度来看,这并不十分明显,因此是我的问题。

如果您在Internet上搜索损失函数的正则化,则TensorFlow.js中没有任何内容。但是,如果您阅读了python教程,它们确实提供了答案。我特别觉得这个网站有用

https://www.analyticsvidhya.com/blog/2018/04/fundamentals-deep-learning-regularization-techniques/