帮助理解单极传递函数

时间:2010-05-10 21:18:04

标签: math function neural-network algebra

有一个问题我坚持使用以下公式进行单极传递函数:

f(net)=     1
         __________
               -net
         1 + e 

该示例具有以下内容:

out =        1
        ____________  = 0.977
               -3.75
        1 + e

我们如何到达0.977?

什么是e?

4 个答案:

答案 0 :(得分:3)

e = 2.71828 ...是base of natural logarithms。这是一个数学常数,出现在许多不同的方程中,类似于π。在进行指数和对数时,你会一直看到它。

Plug it into your equation你得到0.977。

答案 1 :(得分:3)

虽然事实上正确,但其他答案仅提供e的值并确认基础计算。这种类型的sigmoid functions在神经网络中无处不在,可能会有一些额外的见解。

基本上指数函数(e到x幂)具有非常特征的曲线:

  • 大致为零(实际上略高于零),从 - 无穷大到约-2
  • 逐渐急转向垂直,在约-2和+4之间
  • 准“垂直”,值超过150且越来越大,从+5到无穷大

结果指数曲线对于产生“S形”函数非常有用; BTW,“S”是希腊语中的Sigma,它提供了“ sigmoid ”的词源。这些功能通常根据问题中显示的公式进行图案化:

 1/(1 + e^-x)

其中x是变量。通常,此类函数还包括旨在拉伸范围的常数(x中的变化显着的输入区域)和/或修改此中间区域中的曲线。 这些函数的结果是直到输入的特定值,函数是准常数,然后,对于特定范围的输入,函数提供增加的输出,并最终超过范围的上限值,函数是准常数。同样在查看更多细节时,这样的Sigmoids有一个拐点,它对应于ouptut的变化率的反转,并且还标记曲线的一个区域,在两侧,变化是相对最慢的。 / p>

反过来,这样的S形曲线(1)对于归一化神经网络神经元的输出非常有用,或者更一般地,在各种性质的过程中归一化各种数值。直观地,这些对应于底层神经元或设备的“ 最佳位置 ”或“ 甜蜜范围 ”。

(1)或者也可能是“降压”形状的曲线,即曲线具有大致恒定的高值,中间范围内的减小值,以及之后的大部分恒定值。

答案 2 :(得分:1)

e是Euler's number == 2.718281828 ....

如果你把e增加到-3.75的力量,加一个,然后反过来,你就会得到0.977022630 .......

答案 3 :(得分:1)

'e'是自然对数函数的基础,其值等于无限级数1 / n的总和! n从0到无穷大。它在C标准库或java Math包中可用作exp()函数。

如果你评价1 /(1 + exp(-3.75)),你会得到0.977