如何在Ray Tune中定义与SearchAlgorithm无关的高维搜索空间?

时间:2019-02-28 19:43:26

标签: python-3.x hyperparameters ray

我有两个关于Ray Tune的问题。首先,如何独立于所使用的特定SearchAlgorithm定义超参数搜索空间。例如,HyperOpt使用类似'height': hp.uniform('height', -100, 100)的东西,而BayesOpt使用类似'width': (0, 20)的东西;是否有一些通用接口或API?

第二,我希望能够使用shape参数来定义超参数搜索空间,类似于定义numpy数组。我想要类似'heights': hp.uniform('height', -100, 100, shape=(10,))的东西。有办法吗?

1 个答案:

答案 0 :(得分:1)

  

有一些通用接口或API吗?

不幸的是,在Tune中没有用于超参数空间的通用接口。部分原因是因为很难以交叉兼容的方式捕获每个特定“语言”的全部。

  

第二,我希望能够使用形状参数来定义超参数搜索空间,类似于定义numpy数组。我想要类似'heights'的东西:hp.uniform('height',-100,100,shape =(10,))。有办法吗?

快速查看hyperopt代码就像this might be what you're looking for

 def uniform(low, high, rng=None, size=())

希望有帮助!