是否可以实施ANN（2-2-1层）以使用线性激活函数学习XOR？

Question

如果是，怎么样？还有一些简单应用程序的例子可以通过使用线性激活函数来实现。

Answer 1

答案很简短：没有。

如果你使用线性激活功能，那么你的神经网络并不比简单的感知器（缺少隐藏层）强。

换句话说使用具有线性激活功能的隐藏层没有意义。

Answer 2

XOR不能线性分离。如果你在2D平面上打印函数的输出，并且你试图找到一种线性分离它的方法，那么你将无法找到。这是NN在开始时的崩溃，直到他们发现了不同的激活方法，允许像S形函数一样非线性地分离点。

a   b   a XOR b
1   1      0
0   1      1
1   0      1
0   0      0