使用相同的图表显示TensorFlow中的训练和验证准确性

时间:2016-10-20 05:50:59

标签: python machine-learning tensorflow tensorboard

我有一个TensorFlow模型,该模型的一部分评估准确性。 accuracy只是张量流图中的另一个节点,它接收logitslabels

当我想绘制训练准确性时,这很简单:我有类似的东西:

tf.scalar_summary("Training Accuracy", accuracy)
tf.scalar_summary("SomethingElse", foo)
summary_op = tf.merge_all_summaries()
writer = tf.train.SummaryWriter('/me/mydir/', graph=sess.graph)

然后,在我的训练循环中,我有类似的东西:

for n in xrange(1000):
  ...
  summary, ..., ... = sess.run([summary_op, ..., ...], feed_dict)
  writer.add_summary(summary, n)
  ...

同样在for循环内,每说100次迭代,我想评估验证的准确性。我有一个单独的feed_dict,我能够在python中非常好地评估验证的准确性。

但是,这是我的问题:我想通过使用accuracy节点为验证准确性制作另一个摘要。我不清楚如何做到这一点。由于我有accuracy节点,因此我应该可以重新使用它,但我不确定如何准确地执行此操作,这样我也可以将验证准确性写为单独的scalar_summary。 ..

这怎么可能?

2 个答案:

答案 0 :(得分:39)

您可以重复使用精度节点,但需要使用两个不同的SummaryWriters,一个用于训练运行,一个用于测试数据。此外,您还必须为变量指定标量精度摘要。

accuracy_summary = tf.scalar_summary("Training Accuracy", accuracy)
tf.scalar_summary("SomethingElse", foo)
summary_op = tf.merge_all_summaries()
summaries_dir = '/me/mydir/'
train_writer = tf.train.SummaryWriter(summaries_dir + '/train', sess.graph)
test_writer = tf.train.SummaryWriter(summaries_dir + '/test')

然后在训练循环中,您将接受正常训练,并使用train_writer记录您的摘要。此外,您每次在第100次迭代时在测试集上运行图形,并使用test_writer仅记录精度摘要。

# Record train set summaries, and train
summary, _ = sess.run([summary_op, train_step], feed_dict=...)
train_writer.add_summary(summary, n)
if n % 100 == 0:  # Record summaries and test-set accuracy
  summary, acc = sess.run([accuracy_summary, accuracy], feed_dict=...)
  test_writer.add_summary(summary, n)
  print('Accuracy at step %s: %s' % (n, acc))

然后,您可以将TensorBoard指向父目录(summaries_dir),它将加载两个数据集。

这也可以在TensorFlow HowTo' s https://www.tensorflow.org/versions/r0.11/how_tos/summaries_and_tensorboard/index.html

中找到。

答案 1 :(得分:7)

要运行相同的操作但使用不同的feed_dict数据获取摘要,只需将两个摘要操作附加到该操作。假设您希望在验证和测试数据上运行准确性操作,并希望获得两者的摘要:

validation_acc_summary = tf.summary.scalar('validation_accuracy', accuracy)  # intended to run on validation set
test_acc_summary = tf.summary.scalar('test_accuracy', accuracy)  # intended to run on test set
with tf.Session() as sess:
    # do your thing
    # ...
    # accuracy op just needs labels y_ and input x to compute logits 
    validation_summary_str = sess.run(validation_acc_summary, feed_dict=feed_dict={x: mnist.validation.images,y_: mnist.validation.labels})
    test_summary_str = sess.run(test_acc_summary, feed_dict={x: mnist.test.images,y_: mnist.test.labels})

    # assuming you have a tf.summary.FileWriter setup
    file_writer.add_summary(validation_summary_str)
    file_writer.add_summary(test_summary_str)

另外请记住,您始终可以从原始文件summary_str(例如this)中提取原始(标量)数据并执行自己的日志记录。