我正在用反向传播编码基本的前馈神经网络。我的状态是它解决了一些琐碎的问题,例如XOR或x> y,因此一切看起来都很好。我想编写一些其他问题,看看我的神经网络是否学会解决。
我想到了“ RGB”问题:
问题是我无法弄清楚我的NN的正确配置。它将目标函数暂时最小化并陷入困境。当我评估训练结果时,NN每次输入都会给出几乎相同的答案,或者只会给出奇怪的答案。
为了澄清-我可以选择层和神经元的数量。我可以初始化权重(不过我是随机进行的),并为每一层选择激活函数。输入的大小为3,答案的大小为1。
我尝试了数十种配置并获得了相同的结果-卡住了。我是在做错什么,还是这样的基本神经网络无法学习解决此类问题。为什么?也许答案应该是3号?