使用有竞争力的网络来防止过度拟合

时间:2016-04-12 20:19:45

标签: neural-network deep-learning

我此刻正在学习神经网络。 现在我问自己是否有可能使用前面的竞争网来防止过度拟合,因为据说竞争网络会降低数据之间的相关性。

我的意思是:

  1. 输入竞争网
  2. 竞争网络输出到实际神经网络
  3. 我无法找到任何关于此的资源,所以我在这里问。 如果你能给我一个链接或任何东西,我会很高兴。

    谢谢!

1 个答案:

答案 0 :(得分:1)

我不知道有任何专门使用单独竞争网络的工作,但我确实找到了一些工作,其中包含直接集成到神经网络模型中的竞争层:link

如果您还没有研究辍学,您可能还想研究辍学。 Dropout是解决过度拟合问题的一种非常强大的技术,它实际上与您所描述的内容有一些松散的联系:从某种意义上说,Dropout为指数级的稀疏网络提供了一种方式来竞争"竞争& #34;防止共同适应。