TensorBoard中的跟踪验证如何丢失?

时间:2016-08-16 16:32:48

标签: tensorflow tensorboard

我在TensorFlow训练模型。在培训期间,我会定期在验证集上评估模型。我想编写一个培训过程的摘要,以便TensorBoard显示验证集丢失的图表,以便我可以看到它随着更多的训练迭代而下降。 (或者,如果我开始过度适应,就跳起来。)

我已经有一个全局迭代变量作为我的摘要的一部分。我想在模型图中创建一个标量摘要validation_loss变量,该变量没有连接到任何东西,但我会定期从我的训练循环中为变量分配变量。

这是一个好策略吗?在TensorFlow中有更惯用的方法吗?

(我正在处理的具体项目是TensorFlow RNN Language Model,这是TensorFlow文档中RNN tutorial的概括。)

1 个答案:

答案 0 :(得分:1)

据我了解,惯用解决方案是在为训练和验证集单独创建tf.train.SummaryWriter之前合并所有摘要(如果丢失不是您唯一的摘要)。然后对每个(周期性)迭代使用验证SummaryWriter上的add_summary Op。