如何在超参数调整期间最好地保存模型并编写摘要？

Question

在超参数调整期间，为每次运行保存模型和编写会话的最佳方法是什么？目前，我在“培训”和“验证”目录下保存了一堆模型和摘要，我不知道从哪个超参数生成该模型和摘要。也很难确定哪个模型为验证集生成了最佳结果。

张量板图看起来很混乱。有没有一种干净的记录和检查运行的方法（通过超参数调整）？我不知道的任何技巧或方法都可以轻松实现吗？还是你们建议使用mlflow，comet等。预先感谢！

Answer 1

我没有使用您提到的任何工具，但是这是我实现超参数和结果记录的方法。

只需使用超参数名称和值创建pandas DataDrame或什至是基本的字典。在相同的数据结构中，添加使用那些超参数值获得的性能指标。这样，参数和指标可以相互关联。

然后将其另存为CSV文件，以后可以加载并用于分析和可视化目的。

关于模型本身，可以在名称中添加一个标识符，该标识符可以与特定的超参数组合相关联。

这是一种简单，简单的方法，但是对我有用。