Tensorboard中不同的颜色气泡是什么意思？

Question

我正在使用Tensorboard来查找为什么我的tensorflow模型不能正确训练的原因。下图显示了三个权重（W，W_1和W_2）。 W_1和W_2被初始化为相同的形状（与random_normal相同），但形状除外。 W_2训练正确，但W_1根本不训练。一个是橙色，另一个是粉红色。这是否暗示了问题？如果是，那么有人可以告诉我如何解决该问题吗？

Answer 1

您可以共享用于初始化权重和偏差的代码吗？

张量板中的颜色代码是一个很好的起点（因为没有提供代码片段）。

请注意，W和W_1具有一种颜色，W_2，B，B_1和B_2具有另一种颜色。这意味着它们的初始化方式有所不同。这可以解释为什么您对W_2和W，W_1获得不同的结果。

建议重新回到所有权重的初始化并找出初始化之间的差异。祝你好运！