Question

有问题的代码行：

summing +=  yval * np.log(             sigmoid(np.dot(w.transpose(),xi.transpose()))) 
        +(1-yval)* np.log(max(0.001, 1-sigmoid(np.dot(w.transpose(),xi.transpose()))))

错误：

File "classify.py", line 67, in sigmoid
return 1/(1+ math.exp(-gamma))
OverflowError: math range error

sigmoid函数只是1/(1+ math.exp(-gamma))。

我收到了数学范围错误。有谁知道为什么？

Answer 1

您可以通过对正伽玛和负伽玛使用不同的案例来避免此问题：

def sigmoid(gamma):
  if gamma < 0:
    return 1 - 1/(1 + math.exp(gamma))
  else:
    return 1/(1 + math.exp(-gamma))

数学范围错误可能是因为您的gamma参数是一个较大的负值，因此您使用较大的正值调用exp()。这样很容易超出你的浮点范围。

Answer 2

问题是，当gamma变大时，math.exp(gamma)会溢出。您可以通过注意

来避免此问题

sigmoid(x) = 1 / (1 + exp(-x))
           = exp(x) / (exp(x) + 1)
           = 1 - 1 / (1 + exp(x))
           = 1 - sigmoid(-x)

这为您提供了sigmoid的数字稳定实现，这保证您甚至不会以正值调用math.exp：

def sigmoid(gamma):
    if gamma < 0:
        return 1 - 1 / (1 + math.exp(gamma))
    return 1 / (1 + math.exp(-gamma))

log或exp的溢出/数学范围错误

2 个答案: