我目前正在研究一种神经网络,其中隐藏单元的数量是递增的(动态的)。 因此,我试图增加张量的大小(权重矩阵为get_variable),但是我正在处理几个问题。
张量的形状是静态的,我可以为此张量设置一个具有不同形状的新矩阵:
tf_op = tf.assign(weights_var, weight_tensor, validate_shape=False)
self.sess.run(tf_op)
但是使用这种方式,我的训练失败了(训练变量的形状和张量不同)
我想删除该张量并创建一个具有相同名称和新形状的新张量,但我不知道如何进行。
由于新形状,我无法使用REUSE=True
标志。
我不想使用tf.reset_default_graph
,因为此张量是神经网络的一部分,并且我不想删除模型中的其他张量。
因此,我想删除tf.variable_scope的所有变量。 有人知道如何进行吗?
在此先感谢您的帮助, 弗朗索瓦