AutoML.org

弗莱堡-汉诺威-图宾根

专家参与的 HPO

在实践中,如果搜索过程能够通过专家领域知识和直觉进行引导,超参数优化可以变得更高效。专家先验可以通过多种方式与超参数优化问题结合,例如利用不同超参数设置的过去评估结果,或者将专家对良好超参数的明确信念编码为搜索空间上的先验分布。我们列出了一些展示如何做到这一点的工作和软件包。

我们的软件包

  • NePS 允许对昂贵的机器学习流水线进行超参数优化,并使用能够利用专家先验输入算法。

我们的工作

  • 开发者调整中的超参数迁移 展示了如何使用先前找到的良好超参数设置来提高超参数优化的效率。
  • πBO 提出了一种简单的方法,将专家先验信念与贝叶斯优化结合使用。
  • PriorBand 允许专家先验接口与 Hyperband 和其他多保真度算法(包括贝叶斯优化扩展)结合使用。