使用TF-Slim进行神经网络跳过连接?

时间:2017-05-23 21:58:06

标签: tensorflow neural-network tf-slim

我只有几个关于神经网络和跳过连接的问题:

  1. 当人们说3层NN时,这意味着有输入层,隐藏层和输出层吗?

  2. 我似乎无法在线浏览跳过连接/层的资源/信息。他们常用的NN是什么类型的? MLP? CNN? RNN?

  3. 此外,是否可以实现tensorflow和TF-slim的跳过连接?我检查了TF-slim库,但它似乎不包含跳过图层作为其包含的图层之一。

  4. 提前非常感谢!

1 个答案:

答案 0 :(得分:0)

  1. 是的,3层NN是一个带有隐藏层的NN。
  2. 它们不用于特定类型的神经网络。你基本上可以在MLP上轻松实现它们。但术语“跳过层”实际上仅适用于完全连接的分层网络。像LSTM(RNN)这样的更抽象的网络具有仅向另一个特定神经元群前馈的神经元群。但是很难称之为“跳过层”的突触,因为这只是架构。如果“跳过层”的定义是神经元组向前馈送到激活线中不是下一个的另一个神经元组,那么大多数架构都具有“跳过层”同步(GRU,Hopfield,NARX)。
  3. 我不熟悉tensorflow,不能回答:)