Question

通常，激活函数应用于给定图层的所有神经元，如

layer = tf.nn.relu(layer)

如何应用激活功能来说出第二个神经元？

如何才能将特定转换（比如tf.exp()）应用于特定神经元？

切片列不能在此处应用，因为要切片列我需要知道行数，并且在构造时它是未知的。

Answer 1

你可以像静态张量那样对动态形状的张量进行切片。在这里，我将所有内容剥离到[?, 2]张量并且它是0片：

import numpy as np
import tensorflow as tf

x = tf.placeholder(dtype=tf.float32, shape=[None, 2], name='x')
layer = tf.nn.relu(x)
slice = layer[:, 0]
activation = tf.log(1 + tf.exp(slice))

with tf.Session() as session:
  session.run(tf.global_variables_initializer())
  layer_val, slice_val, activ_val = session.run([layer, slice, activation],
                                                feed_dict={x: np.random.randn(10, 2)})
  print layer_val[:, 0]
  print slice_val
  print activ_val

您应该会看到layer_val[:, 0]与slice_val相同，而activ_val是其转化。

如何将转换应用于单个神经元？

1 个答案: