什么时候我应该使用线性神经网络和非线性?

时间:2016-04-07 15:37:59

标签: machine-learning neural-network artificial-intelligence backpropagation gradient-descent

我正在使用前馈,梯度下降反向传播神经网络。

目前我只使用非线性网络,其中tanh是激活功能。

我在想。 你会给具有非线性激活函数的神经网络和线性的什么类型的任务带来什么样的任务?

我知道具有线性激活功能的网络用于解决线性问题。 那些线性问题是什么? 有什么例子吗?

谢谢!

1 个答案:

答案 0 :(得分:0)

我永远不会说,因为使用具有线性激活的神经网络线性函数的组合仍然是线性的,这只是使线性回归复杂化的一种方法。

是否选择线性模型或更复杂的东西取决于您并且取决于您拥有的数据;这是(原因之一)为什么习惯性地在培训期间提供一些数据并使用它来验证模型。其他测试模型的方法是残差分析,假设检验等等