基于模型的优化需要多少次迭代（在mlrMBO中）？

Question

我想在R中的mlr-Package（mlrMBO）中使用基于模型的优化来调整我的超参数。 在此建议进行几次迭代？ 我已经读到MBO中必要的迭代次数取决于超参数的数量，应该乘以某个因素吗？

Answer 1

不幸的是，对此没有普遍的答案。除了超参数的数量外，任务的难度和总体优化情况还会影响可能需要执行的迭代次数。此外，这取决于您要寻找的性能级别-如果您绝对需要最佳性能，则可能需要很多个迭代（数千个或更多）。

一个好的经验法则是，根据可用资源确定迭代次数。您需要在几分钟之内得到答案还是可以让它隔夜运行？我将从一个只有几次迭代的小型测试运行开始，以了解在您的特定情况下需要花费多长时间，然后根据实际运行次数和您想花多少时间来设置一次迭代的次数。

用不同的随机种子，相同的迭代次数，相同的随机种子和不同的迭代次数进行多次运行也是一个好主意。这将告诉您通过运行更长的时间（例如，如果100次和1000次迭代没有区别，那么增加它可能不值得。