Tensorboard - 将完全连接的图层拆分为2个直方图以进行视觉化

Question

我知道我可以使用张量板Understanding TensorBoard (weight) histograms来显示直方图中图层的权重

我的问题是，是否可以将完全连接的图层“拆分”为两个单独的直方图？因为我有来自2个源的输入，这些源在通过完全连接的层之前连接在一起，我想看到2个源的权重分布。下面我有一个简单的例子，其中a和b在通过完全连接的图层之前连接在一起。

a的大小为1024，b的大小为256. out图层有1024个单位。

out = tf.matmul(tf.concat(values=(a, b), axis=1), weight) + bias

Answer 1

假设weight具有1280 x 1024形状，您可以先split weight作为

weight_a = tf.slice(weight, [0, 0], [1024, 1024])
weight_b = tf.slice(weight, [1024, 0], [1280, 1024])

现在，您可以看到weight_a和weight_b。

切片也可以推广，但由于你明确指定了每个张量的大小，以上是最快的方法。