修复神经网络层

Question

如何在tensorflow中修复神经网络的各个层？

例如，在此示例程序中，假设我通过训练另一个神经网络（比如B）知道第二层。我可以将其用作固定层并计算下面网络中的第一层吗？

Blackjack

Answer 1

您可以将某些变量指定为不可训练，并且可以使用某个存储值初始化变量。类似的东西：

W2 = tf.Variable(saved_weigths, trainable=False)
b2 = tf.Variable(saved_biases, trainable=False)
y2 = tf.nn.softmax(tf.matmul(y1, W2) + b2)

其中saved_weights和saved_biases分别包含您预先学习的权重矩阵和偏差向量。供参考：Variable docs。