神经网络解决“ RGB”琐碎问题-甚至可以解决此类问题吗?

时间:2018-12-21 23:55:11

标签: math neural-network backpropagation gradient-descent activation-function

背景

我正在用反向传播编码基本的前馈神经网络。我的状态是它解决了一些琐碎的问题,例如XOR或x> y,因此一切看起来都很好。我想编写一些其他问题,看看我的神经网络是否学会解决。

想法描述

我想到了“ RGB”问题:

  1. 某些生成器生成-128至127之间的3个随机数(代表红色,绿色或蓝色)。
  2. 最大值表示其标签(R,G或B)是“主色”
  3. 如果为红色,则该训练示例的正确答案为1,如果为绿色-则为0.5,如果为蓝色-则为0。
  4. 总共-一个训练示例的输入是具有3个值的向量,而答案是一个值为1、0.5或0的向量。

问题

问题是我无法弄清楚我的NN的正确配置。它将目标函数暂时最小化并陷入困境。当我评估训练结果时,NN每次输入都会给出几乎相同的答案,或者只会给出奇怪的答案。

为了澄清-我可以选择层和神经元的数量。我可以初始化权重(不过我是随机进行的),并为每一层选择激活函数。输入的大小为3,答案的大小为1。

我尝试了数十种配置并获得了相同的结果-卡住了。我是在做错什么,还是这样的基本神经网络无法学习解决此类问题。为什么?也许答案应该是3号?

0 个答案:

没有答案