Automated Dynamic Algorithm Configuration
University of Freiburg（弗莱堡大学）；Leibniz University Hannover（汉诺威莱布尼茨大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）
一个算法的性能往往严重依赖于它的参数配置。虽然已经提出了各种自动化算法配置方法来将用户从手动调整参数的繁琐且容易出错的任务中解放出来，但由于学习的配置是静态的，因此仍然存在许多未开发的潜力，即，参数设置在整个运行过程中保持固定。然而，已经表明，某些算法参数在执行期间动态调整是最佳的，例如，以适应当前的优化环境。到目前为止，这是最常见的通过手工制作的装饰。最近一个有前途的替代方案是从数据中自动学习这种动态参数自适应策略。本文首次全面介绍了自动动态算法配置（DAC）这一新领域，并介绍了一系列最新进展，为今后这一领域的研究奠定了坚实的基础。具体来说，我们（i）在人工智能研究的更广泛的历史背景下研究DAC;（ii）将DAC形式化为计算问题;（iii）确定现有技术中用于解决这个问题的方法;（iv）在进化优化，人工智能规划和机器学习中使用DAC进行经验案例研究。
2022-05-27 cs.AI cs.LG cs.NE
Enhancing RL Generalizability in Robotics through SHAP Analysis of Algorithms and Hyperparameters
Fraunhofer Institute for Applied Information Technology（弗劳恩霍夫应用信息科技研究所）；University of Cologne（科隆大学）；University Hospital of Cologne（科隆大学医院）
提出基于SHAP的可解释框架，量化算法和超参数对强化学习泛化差距的贡献，并用于配置选择以提升泛化能力。
2026-08-26 cs.AI cs.LG cs.RO
Learning-Theoretic Foundations of Algorithm Configuration for Combinatorial Partitioning Problems
最大割、聚类和许多其他对机器学习和其他科学领域非常重要的划分问题都是NP难的，这一现实促使研究人员开发了大量的近似算法和算法。虽然最佳算法的使用通常取决于特定的应用领域，但最坏情况分析通常用于比较算法。如果最坏情况的实例很少出现，这可能会产生误导，因此需要返回最适合给定应用的典型输入的算法配置的优化方法。我们解决这个问题的聚类，最大割，和其他分区问题，如整数二次规划，通过设计计算效率和样本效率的学习算法，从一个特定于应用程序的分布在问题实例中接收样本，并学习分区算法具有较高的预期性能。我们的算法学习常见的整数二次规划和聚类算法家族：SDP舍入算法和凝聚聚类算法与动态规划。对于我们的样本复杂性分析，我们提供了严格的界限上的伪维数的这些算法类，并显示令人惊讶的是，即使是类的算法参数化的一个单一的参数，伪维数是superconstant。通过这种方式，我们的工作既有助于算法配置的基础，又推动了学习理论的边界，因为我们分析的算法类由多阶段优化过程组成，并且比学习理论中通常研究的类要复杂得多。
2018-10-16 cs.AI cs.DS cs.LG
Utilitarian Algorithm Configuration for Infinite Parameter Spaces
University of British Columbia（不列颠哥伦比亚大学）
针对现有功利主义算法配置只能搜索有限参数空间的问题，本文提出 COUP，以高效搜索连续或不可数参数空间，并在保持最优性等理论保证的同时显著提升速度。
2025-02-16 cs.AI
Warmstarting of Model-based Algorithm Configuration
University of Freiburg（弗赖堡大学）
许多困难的组合问题求解器的性能在很大程度上取决于它们的参数设置，由于手动参数调整既繁琐又不理想，人工智能社区最近开发了几种算法配置（AC）方法来自动解决这个问题。虽然所有现有的AC方法从头开始配置过程的算法A为每一个新类型的基准实例，在这里，我们建议利用信息A的性能在以前的基准，以热启动其配置的新类型的基准。我们介绍了两种互补的方式，我们可以利用这些信息的预测模型的基础上，热启动AC方法。在12个不同的实例集上优化一个非常灵活的现代SAT求解器的实验表明，我们的方法通常比现有的AC方法（高达165倍）产生显著的加速，并且在相同的计算预算下也可以找到更好的配置。
2017-11-28 cs.AI
Algorithm Configuration: Learning policies for the quick termination of poor performers
University of Essex（埃塞克斯大学）；University of Nottingham（诺丁汉大学）；Université Libre de Bruxelles (ULB)（布鲁塞尔自由大学）
加速算法配置任务的一种方法是尽可能使用短运行而不是长运行，但不丢弃最终在长运行中表现良好的配置。我们考虑的问题，选择性能最好的配置的条件马尔可夫链搜索（CMCS），一个通用的算法模式，其中包括，例如，VNS。我们研究如何在短期测试的性能结构与长期测试的链接，测试域之间出现显着差异。我们提出了一个“性能信封”的方法来利用的链接，学习运行时应终止，但自动适应域。
2018-03-26 cs.AI cs.DS
Utilitarian Algorithm Configuration
University of British Columbia（不列颠哥伦比亚大学）；Columbia University（哥伦比亚大学）；a16z crypto
本文提出首个以最大化用户效用为目标的启发式算法配置程序，克服期望运行时间最小化的缺陷，并提供理论性能保证与实验验证。
2023-10-31 cs.AI
A Survey of Methods for Automated Algorithm Configuration
Bielefeld University（比勒费尔德大学）；Paderborn University（帕德博恩大学）；LMU Munich（慕尼黑大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）
算法配置（AC）涉及自动搜索最合适的参数配置的参数化算法。目前，在文献中提出了各种各样的AC问题变体和方法。现有的审查没有考虑到AC问题的所有衍生物，也没有提供完整的分类方案。为此，我们引入分类法来描述AC问题和配置方法的特点，分别。我们回顾现有的AC文献中的镜头，我们的分类，概述相关的设计选择的配置方法，对比方法和问题的变种对彼此，并描述AC在工业中的状态。最后，我们的评论提供了研究人员和从业人员在AC领域的未来研究方向。
2022-10-13 cs.AI cs.SE
Pitfalls and Best Practices in Algorithm Configuration
Albert-Ludwigs-Universität Freiburg（阿尔伯特-路德维希-弗莱堡大学）
良好的参数设置对于在人工智能（AI）的许多领域实现高性能至关重要，例如命题可满足性求解、AI规划、调度和机器学习（特别是深度学习）。自动化算法配置方法最近在AI社区受到了广泛关注，因为它们取代了繁琐，不可复制和容易出错的手动参数调整，并可以带来新的最先进的性能。然而，算法配置的实际应用在实验设计中容易出现几个（通常是微妙的）陷阱，这些陷阱会使该过程无效。我们确定了几个常见问题，并提出了避免这些问题的最佳实践。作为自动处理尽可能多的这些可能的一种可能性，我们还提出了一个工具，称为GenericWrapper4AC。
2019-03-28 cs.AI cs.SE
Refined bounds for algorithm configuration: The knife-edge of dual class approximability
Carnegie Mellon University（卡内基梅隆大学）；Optimized Markets, Inc.（优化市场公司）；Strategic Machine, Inc.（战略机器公司）；Strategy Robot, Inc.（战略机器人公司）
随着算法的可调参数越来越多，自动化算法配置变得越来越必要。通常使用机器学习来调整参数，优化性能指标，如运行时和解决方案质量。训练集由手头特定领域的问题实例组成。我们调查这些技术的一个基本问题：训练集应该有多大，以确保一个参数的平均经验性能的训练集接近其预期的，未来的表现？我们回答这个问题的算法配置问题，表现出广泛适用的结构：算法的性能作为其参数的函数可以近似为一个“简单”的功能。我们表明，如果这种近似下的L-无穷范数，我们可以提供强大的样本复杂性的界限。另一方面，如果近似仅在p小于无穷大的L-p范数下成立，则不可能在最坏情况下提供有意义的样本复杂度界限。我们在整数规划的背景下，经验评估我们的界限，在计算机科学中最强大的工具之一。通过实验，我们得到的样本复杂度界限比以前最知名的界限小700倍。
2020-12-24 cs.AI cs.DS cs.LG
Tracing the Interactions of Modular CMA-ES Configurations Across Problem Landscapes
Computer Systems Department Jožef Stefan Institute（计算机系统部门乔塞夫·斯蒂芬研究所）；Information Systems The University of Melbourne（信息系统墨尔本大学）
本文通过算法足迹分析六种 modCMA 配置在 24 个 BBOB 基准问题上的表现，揭示配置与问题特征间的交互模式，证明算法足迹能增强可解释性并指导配置选择。
2025-07-03 cs.AI cs.NE
A Goal-Oriented Reinforcement Learning-Based Path Planning Algorithm for Modular Self-Reconfigurable Satellites
State Key Laboratory of Micro-Spacecraft Rapid Design（微航天快速设计国家重点实验室）；Intelligent Cluster, Harbin Institute of Technology, Harbin（哈尔滨工业大学）
本文提出一种面向目标的强化学习路径规划算法，首次解决模块化自重构卫星的多目标构型问题，并结合后见经验回放与无效动作掩码，在四单元和六单元集群中分别实现95%和73%的成功率。
2025-07-22 cs.AI cs.LG cs.RO
Toward a Dynamic Programming Solution for the 4-peg Tower of Hanoi Problem with Configurations
Department of Computer；Information Science, Brooklyn College The City University of New York New York, NY 11210-2889, USA
1941年引入的用于河内塔的4-peg变体的Frame-Stewart算法将磁盘划分为中间塔，然后将剩余的磁盘移动到目的地。分区磁盘的算法尚未被证明是最佳的，尽管它们已被验证多达30个磁盘。本文提出了一种利用B-Prolog中的制表技术实现该算法的动态规划方法。本研究使用的问题的变化，涉及磁盘的配置，以对比的制表方法与其他解决方案所利用的方法。比较不同的分区位置的帧-斯图尔特算法表明，虽然某些分区是最佳的经典问题，他们需要修改某些配置，随机配置可能需要一个全新的算法。
2013-01-31 cs.AI cs.PL
Towards White-box Benchmarks for Algorithm Control
University of Freiburg（弗赖堡大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）
在困难的组合问题求解、机器学习或人工智能领域中，许多算法的性能通常取决于调整的超参数配置。已经提出了自动化方法来减轻用户在一组问题实例中手动搜索性能优化配置的繁琐且容易出错的任务。然而，通过在线调整算法的超参数仍然有很大的潜力，因为不同的超参数在算法的不同阶段可能是最优的。我们将动态调整给定实例的算法超参数的问题表述为上下文MDP，使强化学习（RL）成为以数据驱动方式解决所产生的算法控制问题的主要候选者。此外，受算法配置应用的启发，我们引入了新的白盒基准适合研究算法控制。我们表明，在短序列，算法配置是一个有效的选择，但随着序列长度的增加，黑盒视图的问题很快变得不可行和RL执行更好。
2019-08-22 cs.AI cs.LG cs.SY
DACBench: A Benchmark Library for Dynamic Algorithm Configuration
Information Processing Institute (tnt), Leibniz University Hannover（莱布尼茨汉诺威大学信息处理研究所）；Department of Computer Science, University of Freiburg（弗赖堡大学计算机科学系）；Bosch Center for Artificial Intelligence（博世人工智能中心）
动态算法配置（DAC）旨在动态控制目标算法的超参数，以提高其性能。一些理论和实证结果已经证明了在演化计算、AI规划或深度学习等领域动态控制超参数的好处。然而，复制这些结果以及研究发援会的新方法是困难的，因为现有的基准往往是专门的，与相同的接口不兼容。为了促进DAC的基准测试和研究，我们提出了DACBench，这是一个基准测试库，旨在收集和标准化来自不同AI领域的现有DAC基准测试，并为新的基准测试提供模板。对于DACBench的设计，我们专注于重要的需求，如（i）灵活性，（ii）可重复性，（iii）可扩展性和（iv）自动文档和可视化。为了展示DAC的潜力，广泛的适用性和挑战，我们探讨了一组六个初始基准在几个方面的难度进行比较。
2021-05-18 cs.AI
Local Search for Minimum Weight Dominating Set with Two-Level Configuration Checking and Frequency Based Scoring Function
Northeast Normal University（东北师范大学）
最小权支配集问题是最小支配集问题的一个重要推广，有着广泛的应用。本文提出了一种新的局部搜索算法的MWDS问题，这是基于两个新的想法。第一个想法是一个启发式称为两级配置检查（CC2），这是一个新的变种，最近的强大的配置检查策略（CC），有效地避免了最近的搜索路径。第二个想法是一种新的评分函数的基础上被发现的顶点的频率。根据这两个思想的名称，我们的算法被称为CC2FS。实验结果表明，CC2FS的表现远远优于一些国家的最先进的算法在解决方案的质量在广泛的MWDS基准。
2017-02-15 cs.AI
irace-evo: Automatic Algorithm Configuration Extended With LLM-Based Code Evolution
Catalan Institute of Nanoscience and Nanotechnology (ICN2), CSIC and BIST（加泰罗尼亚纳米科学与纳米技术研究所（ICN2）、西班牙国家科研学院（CSIC）和巴塞罗那技术研究所（BIST））；Artificial Intelligence Research Institute (IIIA-CSIC)（人工智能研究所（IIIA-CSIC））
针对现有自动算法配置工具仅调参不修改代码的局限，提出扩展框架irace-evo，集成大语言模型代码演化能力联合探索参数与代码空间，以低成本生成性能更优的算法变体。
2025-11-15 cs.AI cs.SE
