Key Principles in Cross-Domain Hyper-Heuristic Performance
Faculty of Informatics, Masaryk University(信息技术学院,马萨里克大学);Christian Doppler Laboratory for Artificial Intelligence and Optimization for Planning and Scheduling, DBAI, TU Wien(人工智能与规划调度优化的克里斯蒂安·多普勒实验室,DBAI,维也纳技术大学)
本研究聚焦跨域选择超启发式的低层启发式集合构成与策略变换,基于解接受度、LLH重复、扰动强度三原则优化,使简单随机选择方法及现有超启发式算法在基准和真实域上性能提升。
2025-09-02 cs.AI
Farthest-Point Heuristic based Initialization Methods for K-Modes Clustering
k-modes算法已经成为解决不同应用领域中分类数据聚类问题的一种流行技术。然而,该算法需要随机选择聚类的初始点。不同的初始点往往会导致相当不同的聚类结果。在本文中,我们提出了一个实验研究应用最远点启发式的初始化方法的k模式聚类,以提高其性能。实验结果表明,新的初始化方法导致更好的聚类精度比随机选择初始化方法的k-模式聚类。
2006-10-09 cs.AI
Action Selection for MDPs: Anytime AO* vs. UCT
Universidad Simón Bolívar(西蒙玻利瓦尔大学);ICREA & Universitat Pompeu Fabra(加泰罗尼亚研究与高级研究学院 & 庞培法布拉大学)
在存在非容许解的情况下,A* 和其他最佳优先算法可以通过在找到第一个解后继续搜索而转化为OR图上的任意时间最优算法,但是同样的技巧对于AND/OR图上的最佳优先算法不起作用,它必须能够扩展显式图的叶子节点,而这些叶子节点不一定是最佳部分解的一部分。因此,AO* 的任何时候的最佳变体都必须解决探索-利用的权衡:它们不能只是“利用”,它们还必须继续探索。在这项工作中,我们开发了一个这样的变体AO*,并将其应用于有限视野MDP。这种Anytime AO* 算法最终会在使用可采样的非容许随机启发式时提供最优策略,因为启发式是可以通过推出进行采样的基本策略的成本。然后,我们测试随时AO* 的行动选择在大型无限地平线的MDP,不能解决现有的离线启发式搜索和动态规划算法,并将其与UCT。
2019-09-26 cs.AI
Class-Based Heuristic Selection for Solving the Flying Block Puzzle
Faculty of Computer Engineering(计算机工程学院);University of Tehran(德黑兰大学);K. N. Toosi University of Technology(霍加·纳绥尔·丁·图西大学);Department of Electrical and Computer Engineering(电气与计算机工程学院);University of Kurdistan(库尔德斯坦大学)
针对启发式搜索在空间规划中的性能问题,提出CBHA*算法,在146个飞行方块谜题基准实例上大幅提升成功率、减少节点扩展,为高效空间规划提供了可推广的自适应启发式机制。
2026-08-31 cs.AI
Heuristic-enhanced Candidates Selection strategy for GPTs tackle Few-Shot Aspect-Based Sentiment Analysis
College of Computer Science(计算机学院);Sichuan University(四川大学)
针对少样本基于方面的情感分析中PLM方法难适配多子任务、GPT方法表现差的问题,提出启发式增强候选选择策略及两阶段AiO模型,兼顾准确性与泛化性,在五个基准数据集上表现优于直接使用GPTs的方法。
2024-08-19 cs.AI cs.CL cs.LG
Heuristic Rank Selection with Progressively Searching Tensor Ring Network
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学);Harbin Institute of Technology(Shenzhen)(哈尔滨工业大学(深圳));Pengcheng Lab(鹏城实验室)
最近,张量环网络(TRN)已经应用于深度网络,在压缩率和准确性方面取得了显著的成功。虽然高度相关的TRN的性能,秩选择很少在以前的工作中研究,通常设置为相等的实验。同时,没有任何探试法来选择秩,枚举的方法来找到合适的秩是非常耗时的。有趣的是,我们发现部分排名元素是敏感的,通常聚集在一个狭窄的区域,即感兴趣的区域。因此,基于上述现象,我们提出了一种新型的渐进式遗传算法--渐进搜索张量环网络搜索(PSTRN),该算法具有精确、高效地找到最佳排名的能力。通过进化阶段和渐进阶段,PSTRN可以快速收敛到感兴趣的区域,并获得良好的性能。实验结果表明,与枚举法相比,PSTRN能显著降低求秩的复杂度。此外,我们的方法在MNIST,CIFAR 10/100,UCF 11和HMDB 51等公共基准上进行了验证,达到了最先进的性能。
2021-05-30 cs.AI cs.CV
A Topological Approach to Meta-heuristics: Analytical Results on the BFS vs. DFS Algorithm Selection Problem
ANU(澳大利亚国立大学)
搜索是人工智能的核心问题,而广度优先搜索(BFS)和深度优先搜索(DFS)是两种最基本的搜索方式。在本文中,我们得到平均BFS和DFS运行时间的估计。平均运行时间估计可以用来分配资源或判断问题的难度。它们还可以用于选择最佳的图形表示,以及从BFS和DFS中选择更快的算法。它们也可能构成分析更高级搜索方法的基础。本文处理树搜索和图搜索。对于树搜索,我们采用目标分布的概率模型;对于图搜索,分析取决于路径冗余和平均分支因子的额外统计。作为一个应用程序,我们使用的结果来预测BFS和DFS运行时的两个具体的语法问题和N-难题。实验验证表明,我们的分析近似接近经验现实。
2018-04-12 cs.AI
VHPOP: Versatile Heuristic Partial Order Planner
School of Computer Science, Carnegie Mellon University(卡内基梅隆大学计算机学院)
VHPOP是一个松散地基于UCPOP的偏序因果链接(POCL)规划器。它借鉴了20世纪90年代早期到中期POCL规划中缺陷选择策略的经验,并将其与领域独立规划领域的最新发展相结合,如基于距离的规划和可达性分析。我们提出了一个适应的添加剂启发式计划空间规划,并修改它,以考虑可能重用的计划中现有的行动。我们还提出了一套新的缺陷选择策略,并展示了如何这些可以帮助我们解决更多的问题比以前可能的POCL规划。VHPOP还支持规划与持续性的行动纳入标准技术的时间约束推理。我们证明了同样的启发式技术,用于提高经典POCL规划的性能可以有效的持续性行动领域以及。其结果是一个通用的启发式POCL规划竞争力与既定的CSP为基础的启发式状态空间规划。
2011-06-24 cs.AI
NeSHFS: Neighborhood Search with Heuristic-based Feature Selection for Click-Through Rate Prediction
Middle East Technical University(中东技术大学);Arizona State University(亚利桑那州立大学)
针对CTR预测中特征冗余、计算成本高及现有特征选择算法效果不足的问题,提出启发式算法NeSHFS,可降本提效,经三个公开数据集实验验证了其有效性。
2024-09-13 cs.AI cs.IR
Selection Hyper-heuristics Can Automatically Adjust the Learning Period to Optimally Solve Pseudo-Boolean Problems
Laboratoire d’Informatique (LIX), CNRS, École Polytechnique, Institut Polytechnique de Paris(信息实验室(LIX),法国国家科学研究中心,巴黎高等理工学院,巴黎理工学院);Department of Computer Science and Engineering, Southern University of Science and Technology(计算机科学与工程系,南方科技大学);School of Computing & Communications, Lancaster University Leipzig(计算与通信学院,莱斯特大学莱比锡分校)
本文提出一种自动设置学习周期参数的超启发式方法,证明其能在1-o(1)比例的迭代中选择最优邻域大小,从而以最优时间(忽略低阶项)优化LeadingOnes基准问题。
2026-08-27 cs.AI cs.DS cs.NE
Optimal Solutions for Multi-Unit Combinatorial Auctions: Branch and Bound Heuristics
寻找多单位组合拍卖的最优解是一个困难的问题,找到最优解的近似也是困难的。我们调查使用的分支定界技术:他们需要一种方法来约束从以上的最佳分配的值和一个很好的标准,以决定哪些出价将首先尝试。考虑了从最佳分配的值上方有效地定界的不同方法。理论上的原始结果描述了最佳逼近比和提供最佳逼近比的排序准则,我们建议使用这个准则。
2002-02-20 cs.AI cs.GT
DiabML: AI-assisted diabetes diagnosis method with meta-heuristic-based feature selection
本研究针对糖尿病早期检测需求,结合AIoMT技术提出融合BWO元启发式特征选择与SMOTE不平衡处理的DiabML混合诊断方法,经实验验证其AdaBoost分类准确率达86.1%,优于现有相关方法。
2024-10-30 cs.AI cs.LG
Efficient Use of heuristics for accelerating XCS-based Policy Learning in Markov Games
National University of Defense Technology(国防科技大学)
在马尔可夫博弈中,与具有学习能力的非平稳对手进行博弈对于强化学习(RL)代理来说仍然是一个挑战,因为对手可以同时进化他们的策略。这增加了学习任务的复杂性,并减慢了RL代理的学习速度。本文提出了有效地使用粗糙算法,以加快策略学习时,对并发学习。具体而言,我们提出了一种算法,可以有效地学习可解释的和广义的动作选择规则,利用代表性的定量分析和对手模型与扩展分类系统(XCS)在零和马尔可夫游戏。利用神经网络对对手的行为进行建模,并推断出相应的策略,用于动作选择和规则进化。在多启发式策略的情况下,我们引入了帕累托最优的概念,为行动选择。此外,利用XCS的条件表示和匹配机制,启发式策略和对手模型可以为具有相似特征表示的情况提供指导。此外,我们引入了一个基于准确性的资格跟踪机制,以加快规则的进化,即,能够匹配历史痕迹的分类器根据其准确性被加强。我们证明了所提出的算法的优势,在足球和小偷和猎人的情况下,几个基准算法。
2020-05-26 cs.AI cs.GT cs.MA
Automated Algorithm Selection: from Feature-Based to Feature-Free Approaches
Edinburgh Napier University(爱丁堡龙比亚大学)
我们提出了一种新的算法选择技术,适用于优化领域,其中有隐含的顺序信息封装在数据中,例如,在线打包具体来说,我们训练两种类型的递归神经网络预测包装启发式在线装箱,从四个著名的启发式。作为输入,RNN方法只使用项目大小的序列。这与典型的算法选择方法形成对比,典型的算法选择方法需要使用需要首先从输入数据导出的特定于域的实例特征来训练模型。RNN方法被证明能够在80.88%到97.63%的实例上实现Oracle性能的5%以内,具体取决于数据集。它们的表现也优于使用派生特征训练的经典机器学习模型。最后,我们假设,所提出的方法表现良好时,表现出一些隐含的结构,导致歧视性的性能方面的一组prostitics的实例。我们通过生成14个新的数据集来测试这一假设,这些数据集具有不断增加的结构层次,并表明在算法选择提供益处之前需要一个关键的结构阈值。
2022-03-24 cs.AI cs.LG cs.NE
A Comparative Study of Demonstration Selection for Practical Large Language Models-based Next POI Prediction
National Institute of Advanced Industrial Science and Technology(日本国立先进工业科学技术研究所)
本文比较了基于大语言模型的POI预测中演示选择策略,评估了启发式方法在计算成本和预测精度上的优势。
2026-03-16 cs.AI cs.CL
MFH: A Multi-faceted Heuristic Algorithm Selection Approach for Software Verification
针对软件验证中算法选择依赖专家且现有方法可扩展性差的问题,提出MFH方法,利用验证器启发信息、分解任务并引入反馈,在无标签训练下达91.47%准确率,且扩展新验证器时准确率仅降0.84%。
2025-05-23 cs.AI cs.LG cs.SE
Learning how to Active Learn: A Deep Reinforcement Learning Approach
The University of Melbourne(墨尔本大学)
主动学习旨在选择用于注释的数据的小子集,使得在数据上学习的分类器高度准确。这通常使用启发式选择方法来完成,然而这种方法的有效性是有限的,而且,启发式选择的性能在数据集之间是不同的。为了解决这些缺点,我们引入了一种新的配方,通过重构的主动学习作为一个强化学习问题,并明确学习的数据选择政策,其中的政策采取的主动学习启发式的作用。重要的是,我们的方法允许选择策略学习使用模拟一种语言被转移到其他语言。我们使用跨语言命名实体识别来演示我们的方法,观察传统主动学习的统一改进。
2017-08-08 cs.AI cs.CL cs.LG
Feature selection with test cost constraint
Zhangzhou Normal University(漳州师范学院);Tianjin University(天津大学)
特征选择是机器学习和数据采掘中重要的预处理步骤。在现实世界的应用程序中,需要成本,包括金钱,时间和其他资源,以获得功能。在某些情况下,由于资源有限,存在测试成本约束。我们将故意选择一个信息丰富且廉价的特征子集进行分类。针对这一问题,提出了带测试成本约束的特征选择问题.新问题具有简单的形式,同时描述为一个约束满足问题(CSP)。回溯算法是求解CSP问题的一种通用算法,对于中等规模的数据,回溯算法是解决新问题的有效方法。由于回溯算法不适用于大型数据集,还开发了一种启发式算法。实验结果表明,该启发式算法在大多数情况下都能找到最优解。我们还重新定义了一些现有的特征选择问题的粗糙集,特别是决策理论粗糙集,从CSP的观点。这些新的定义提供了一些新的研究方向的见解。
2012-09-25 cs.AI cs.LG
Automated Heuristic Design for Unit Commitment Using Large Language Models
Shanghai University of Electric Power(上海电力大学);Shanghai Electrical Appliances Research Institute (Group) Co(上海电气 appliances 研究院(集团)公司)
针对电力系统机组组合问题求解的准确性与鲁棒性挑战,提出基于大语言模型的FunSearch方法,结合预训练大模型与评估器通过程序搜索演化生成合理解,10机组算例显示其在多指标上优于遗传算法。
2025-06-14 cs.AI cs.SY eess.SY
Speeding Up Hyper-Heuristics With Markov-Chain Operator Selection and the Only-Worsening Acceptance Operator
本研究针对移动接受超启发式算法,提出马尔可夫链算子选择与仅恶化接受算子两项改进,大幅降低多类基准函数的运行时间,证明其在含连续局部最优函数的新基准类上的优异性能。
2025-09-01 cs.AI cs.DS cs.NE
New Hybrid Heuristics for Pseudo-Boolean Propagation
本文提出了一种新的混合启发式方法,用于改进伪布尔传播中的单位传播策略,以在RoundingSAT求解器中取得更好的性能。
2025-12-19 cs.AI math.OC
Meta-Reinforcement Learning for Heuristic Planning
University of Leeds(利兹大学)
在Meta-强化学习(meta-RL)中,智能体在一组任务上进行训练,以便在新的、看不见的但相关的任务中更快地准备和学习。训练任务通常是手工制作的,以代表测试任务的预期分布,因此全部用于训练。我们表明,给定一组训练任务,如果训练任务选择得当,学习可以更快,更有效(导致测试任务中更好的性能)。我们提出了一个任务选择算法,信息理论任务选择(ITTS),基于信息论,优化用于元强化学习训练的任务集,而不管它们是如何产生的。该算法确定哪些训练任务既与测试任务充分相关,又彼此足够不同。我们再现了文献中不同的元RL实验,并表明ITTS提高了所有实验的最终性能。
2021-07-06 cs.AI cs.LG
Solving Travelling Thief Problems using Coordination Based Methods
Data61 / CSIRO(Data61 / 澳大利亚联邦科学与工业研究组织);Griffith University(格里菲斯大学);University of Newcastle(纽卡斯尔大学)
本文针对旅行窃贼问题中城市选择与物品选择协调不足的问题,提出三种协调启发式方法(两种人工设计、一种机器学习),并构建 CoCo 求解器,在基准问题上显著超越现有最先进方法。
2023-10-11 cs.AI
LFHE: Local-First Heuristic Evolution for Bounded Local Topology Search in Decentralized Learning with Non-IID Data
Durham University(杜伦大学);University of Cambridge(剑桥大学)
针对非独立同分布数据下分散式学习的拓扑敏感问题,提出本地优先启发式进化(LFHE)框架,仅用局部信息进行受限拓扑搜索,在四个基准上取得竞争性能,并揭示性能与局部性的权衡。
2026-10-07 cs.AI cs.LG
Unit Selection with Causal Diagram
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
单元选择问题的目的是确定一组最有可能表现出期望行为模式的个体,例如,选择那些在受到鼓励时会以一种方式反应,而在不受到鼓励时会以不同方式反应的个体。通过结合实验和观察数据,李和珀尔得出了“效益函数”的严格界限--选择具有给定特征的个体的收益/成本。本文表明,这些界限可以显着缩小(足以改变决策)时,结构性信息的因果模型的形式。我们解决的问题,估计使用观察和实验数据时,具体的图形标准假设举行的效益函数。
2021-09-15 cs.AI
A Comparison of Decision Analysis and Expert Rules for Sequential Diagnosis
Carnegie Mellon University(卡内基梅隆大学)
长期以来,关于不确定性推理的决策理论方法和基于规则的启发式方法的相对优点一直存在争议。我们报告的两种方法的故障排除,特别是测试选择故障诊断的性能的实验比较。我们使用的实验测试台的问题诊断摩托车发动机。第一种方法采用从专家力学中获得的启发式测试选择规则。我们比较它与最优决策分析算法的测试选择,采用估计的组件故障概率和测试成本。决策分析算法被发现,以减少预期的成本(即时间),以达到平均14%的诊断相对于专家规则。敏感性分析表明,结果是相当强大的概率和成本估计的不准确性。这种差异暗示了知识获取的一些有趣的含义。
2013-03-27 cs.AI
An Algorithm and Complexity Results for Causal Unit Selection
UCLA Computer Science Department(加州大学洛杉矶分校计算机科学系)
单元选择问题旨在识别被称为单元的对象,这些对象在受到刺激时最有可能表现出期望的行为模式(例如,即将流失但如果受到鼓励就会改变主意的客户)。单位选择与反事实的目标函数是最近推出的,现有的工作重点是界定一个特定的目标函数类,称为效益函数,基于观测和干预数据-假设一个完全指定的模型是不可用的,以评估这些功能。我们补充这条线的工作,提出了第一个精确的算法,寻找最佳单位给出了广泛的一类因果目标函数和一个完全指定的结构因果模型(SCM)。我们表明,这类目标函数下的单位选择是$\text{NP}^\text{PP}$ -完全的,但$\text{NP}$ -完全时,单位变量对应于SCM中的所有外生变量。我们还提供了基于树宽的复杂性界限,我们提出的算法,同时将其与一个著名的算法最大后验(MAP)推理。
2023-02-28 cs.AI cs.CC cs.LG
Two new feature selection methods based on learn-heuristic techniques for breast cancer prediction: A comprehensive analysis
Kharazmi University(哈拉兹米大学);University of Tehran(德黑兰大学)
本文提出基于帝国主义竞争算法和蝙蝠算法的两种新型特征选择方法,用于乳腺癌预测,实验表明蝙蝠算法结合随机森林准确率达99.12%,并可降低数据维度高达90%。
2024-08-07 cs.AI cs.LG cs.NE
A Unit Selection Methodology for Music Generation Using Deep Neural Networks
Georgia Tech(佐治亚理工学院);Google Research(谷歌研究院)
计算机基于数据生成音乐的方法有几种,包括马尔可夫链、递归神经网络、重组和语法。我们探索使用单位选择和串联作为一种手段,使用基于排名的程序生成音乐,其中,我们认为一个单位是一个可变长度的音乐措施。我们首先研究是否是一个单位的选择方法,这是限制在一个有限大小的单元库,可以足以涵盖广泛的音乐。我们通过开发一个深度自动编码器来实现这一点,该编码器对音乐输入进行编码,并通过从库中选择来重建输入。然后,我们描述了一个生成模型,该模型将深度结构化语义模型(DSSM)与LSTM相结合,以预测下一个单元,其中单元由四个,两个和一个音乐措施组成。我们评估生成模型使用客观指标,包括平均排名和准确性,并与主观的听力测试中,专家音乐家被要求完成一个被迫选择的排名任务。我们将我们的模型与音符级生成基线进行比较,该基线由经过训练的堆叠LSTM组成,以向前预测一个音符。
2016-12-12 cs.AI cs.LG cs.SD
Causal Unit Selection using Tractable Arithmetic Circuits
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
针对因果单元选择中传统VE算法受元模型约束树宽限制、计算成本高的问题,提出将元模型编译为可处理算术电路的方法,实现线性时间求解,实验验证其带来数量级速度提升。
2024-04-10 cs.AI cs.LG stat.ME