AutoML.org

弗莱堡-汉诺威-图宾根

基于经验的性能模型 (EPMs)

什么是 EPMs?

基于经验的性能模型是回归模型,用于描述给定算法在不同问题实例和/或参数设置下的性能。这些模型可以预测算法在之前未见过的输入上的性能,包括之前未见过的问题实例和/或之前未测试过的参数设置,并且对于分析算法在不同条件下的表现、为新问题实例选择有希望的配置或作为替代基准测试非常有用。

使用替代基准测试进行高效基准测试

为了能够高效地比较不同的配置算法(包括算法配置和超参数优化),可以使用替代基准测试。我们用 EPM 的预测来代替对真实目标算法的昂贵评估。使用这种方法,我们可以将评估一个配置所需的时间减少到一秒钟以下,并允许进行广泛但计算上可行的经验比较。

K. Eggensperger, M. Lindauer, H. H. Hoos, F. Hutter and K. Leyton-Brown
通过基于模型的替代方案对算法配置器进行高效基准测试
机器学习 (2018)

我们还提供用于训练 EPM 的数据。每个 .tar.gz 包含性能数据、附加信息和文件格式的简短描述

我们还提供软件来加载和训练 EPM 这里 以及运行来自 AClib 的实验的代码 这里。

以前关于 EPM 的工作(包括 matlab 实现)可以在 这里 (外部网站) 找到