张量流变量是否在未经训练的情况下随机变化?

时间:2019-07-17 21:09:18

标签: python tensorflow variables

我在张量流中并行训练两个网络,因此两个网络都有可训练的变量,并且两个都有独立的损失函数节点。但是,只有网络#1的损失函数包含(连接)到正在优化(连接到优化器节点)的最终损失函数中,所以我希望看到网络2的输出随着训练而变化,但由于未训练网络1的输出恒定! 令我感到惊讶的是,网络#1的输出值在各个时期之间略有变化,而初始化值周围的增量很小。尽管我认为它应该与梯度必须为零完全相同,但它并未受到训练。有人知道原因吗?

我以另一种方式切换了这个实验,即固定了2号网,但是观察到了相同的结果。即使不调用优化器节点,我也会看到输出在初始化值附近非常随机地发生变化。

0 个答案:

没有答案
相关问题