机器学习中的许多模型都包含超参数。使用保持数据查找这些超参数的最佳做法是什么?或者你的方法是什么?
答案 0 :(得分:2)
网格搜索和手动搜索是用于优化机器学习算法的超参数的最广泛使用的技术。然而,最近由 James Bergstra 和 Yoshua Bengio 发表的论文认为,随机搜索优于网格和手动搜索超参数优化。有关随机(网格和手动)搜索的更多信息,请查看他们的论文:
Random Search for Hyper-Parameter Optimization
最近,我提交(并接受)了Pattern Recognition Letters期刊的论文。对于那篇论文,我使用了随机搜索技术。