我在TensorFlow训练模型。在培训期间,我会定期在验证集上评估模型。我想编写一个培训过程的摘要,以便TensorBoard显示验证集丢失的图表,以便我可以看到它随着更多的训练迭代而下降。 (或者,如果我开始过度适应,就跳起来。)
我已经有一个全局迭代变量作为我的摘要的一部分。我想在模型图中创建一个标量摘要validation_loss
变量,该变量没有连接到任何东西,但我会定期从我的训练循环中为变量分配变量。
这是一个好策略吗?在TensorFlow中有更惯用的方法吗?
(我正在处理的具体项目是TensorFlow RNN Language Model,这是TensorFlow文档中RNN tutorial的概括。)
答案 0 :(得分:1)
据我了解,惯用解决方案是在为训练和验证集单独创建tf.train.SummaryWriter
之前合并所有摘要(如果丢失不是您唯一的摘要)。然后对每个(周期性)迭代使用验证SummaryWriter上的add_summary
Op。