Tensorflow exp限制为max而不是infinity?

时间:2017-10-02 21:00:09

标签: tensorflow

我使用的损失函数中有一个exp项,它将损失炸成无穷大,然后导致渐变到NaNs ....有没有办法解决这个问题?

s = tf.exp(n)  
# s becomes nan when n is large

2 个答案:

答案 0 :(得分:0)

损失函数中的指数项通常在机器学习中通过最小化指数本身而不是指数本身来处理。这两个函数都是单调新月形的,因此最小化对数会使您达到与最小化指数相同的最小值。但是,对数增长得慢得多,避免了损失函数的大幅增加。

这似乎你需要在n上直接最小化,但可能只是一个例子。

答案 1 :(得分:-1)

例如,你可以使用它:

<div id="rain_fall"> <span>Select year of rain fall</span><select v-model="selected" v-model="information"> <option v-for="option in options" :value="option.value" :copy="option.copy">{{ option.text }}</option> </select><br> <span>Amount of rain: {{ selected }}</span><br> <span>Information: {{ information }}</span>

这将返回最大元素,因此您需要考虑到这一点。