为什么我们在softmax中使用（exp）而不是（log）？

Question

我对log和exp关系不太了解。但是，我很困惑，在softmax回归中没有使用log？

Features to Probabilities section

Answer 1

为所有实际值定义了Exp，而log isn＆＃t; t。

任何等于或小于零的向量元素都会导致使用对数函数出现数值错误或未定义的行为。 exp没有这个问题。

要避免未定义，您需要为所有元素添加一个非常小的偏差。但这个ε应该有多小？你用负数做什么您可能永远不会期望一个负数但只是通过截断错误或非常接近浮点表示（一个很小的值最终被表示为一个小的负数）。