Question

Tensorflow-gpu版本：1.8.0 我想在训练浅层CNN网络时查看权重和激活，并在有权重和卷积的任何地方添加tf.summary.histogram（）。我添加的方式是这样的。

在CNN.py

中

def _conv(self, x, ksize, c_out, stride=1, padding='SAME', name='conv'):
    c_in = x.get_shape().as_list()[1]
    W = self._get_variable([ksize, ksize, c_in, c_out], name)
    x = tf.nn.conv2d(x, W, self._arr(stride), padding=padding, data_format='NCHW', name=name)
    tf.summary.histogram(name+"activation",x)
    self.H.append(x)
    return x

在Train.py

  sess = Option.sess = tf.InteractiveSession(config=config)
  merged = tf.summary.merge_all()
  train_writer = tf.summary.FileWriter('../summary',sess.graph)

和

for batchNum in tqdm(xrange(batchNumTrain), desc='Epoch: %03d' % epoch, leave=False, smoothing=0.1):
      if Option.debug is False:
        _, loss_delta, error_delta,summary = sess.run([train_op, lossTrainBatch, errorTrainBatch, merged])
        train_writer.add_summary(summary,batchNum)

问题是，与不添加Tensorbaord相比，添加这些使损失看起来很奇怪。第一个时期还可以，但是与不添加Tensorboard相比，它的下降非常缓慢。

我使用Tensorboard的方式错误吗？

张量板会对训练过程产生负面影响

0 个答案: