Multi-objective and multi-fidelity Bayesian optimization of laser-plasma acceleration
Ludwig-Maximilian-Universität München(慕尼黑大学);Max Planck Institut für Quantenoptik(马克斯·普朗克量子光学研究所)
加速器中的束流参数优化涉及多个,有时是相互竞争的目标。将这些单独的目标浓缩成一个单一的品质因数,必然会导致在缺乏先验知识的情况下,往往以一种不可取的方式偏向于特定的结果。找到最优的目标定义需要操作员重新考虑许多可能的目标权重和定义,这个过程可能比优化本身花费的时间长很多倍。一种更通用的方法是多目标优化,它建立了目标之间的权衡曲线或帕累托前沿。在这里,我们提出了第一个结果的多目标贝叶斯优化的模拟激光等离子体加速器。我们发现,多目标优化达到可比的性能,其单目标的同行,同时允许即时评估全新的目标。这大大减少了为新问题找到适当的客观定义所需的时间。此外,我们的多目标,多保真度的方法减少了一个数量级的优化运行所需的时间。它通过动态选择模拟分辨率和盒子大小来实现这一点,当它从快速低分辨率运行中了解帕累托最优解决方案时,需要更少的缓慢和昂贵的模拟。本文中演示的技术可以很容易地转换为加速器优化之外的许多不同的计算和实验用例。
2022-12-23 cs.LG physics.acc-ph physics.plasm-ph
Simple Extensions of Single-Objective Acquisition Functions and Hedge Strategies for Multi-Objective Bayesian Optimization
本文提出通过超体积变换和对冲策略扩展单目标采集函数至多目标贝叶斯优化,简化流程,实验证明其性能匹配或超越复杂MOBO方法。
2026-11-09 cs.LG math.OC stat.ML
Record-Remix-Replay: Hierarchical GPU Kernel Optimization using Evolutionary Search
本文提出Record-Remix-Replay框架,结合LLM驱动的进化搜索、贝叶斯优化和记录回放编译技术,高效探索GPU内核优化,提升科学应用性能并加快优化速度。
2026-04-13 cs.AI cs.DC cs.LG
An Objective for Hierarchical Clustering in Euclidean Space and its Connection to Bisecting K-means
Tepper School of Business, Carnegie Mellon University(卡内基梅隆大学泰珀商学院)
本文探讨了层次聚类的情况下,对点的相异分数(例如距离)作为输入的一部分。最近引入的目标点与相异分数的结果在每棵树是1/2近似,如果距离形成一个度量。这表明目标并没有在度量空间中的好的和差的层次聚类之间做出显着的区分。基于此,本文在欧氏空间中提出了一种新的全局层次聚类目标。目标捕获了促使使用分裂聚类算法的标准:当分裂发生时,同一聚类中的点应该比不同聚类中的点更相似。此外,这一目标给出了合理的结果,地面实况输入层次聚类。本文建立了这个目标和二分k-means算法之间的理论联系。本文证明了最优2-均值解的结果是目标的常数逼近。这是第一篇证明二分k-means算法在整个树上优化自然全局目标的论文。
2020-08-30 cs.LG stat.ML
Preserving Intermediate Objectives: One Simple Trick to Improve Learning for Hierarchical Models
Carnegie Mellon University(卡内基梅隆大学)
层次模型被用于各种各样的问题,其特征在于任务层次结构,其中对较小的子任务的预测对于试图预测最终任务是有用的。通常,神经网络首先针对子任务进行训练,并且这些网络的预测随后在训练模型和对最终任务进行推断时用作附加特征。在这项工作中,我们专注于改进这种分层模型的学习,并展示了我们的说话人特质预测任务的方法。说话人特质预测的目的是通过计算确定说话人可能被认为具有哪些人格特质,并且一直受到人工智能和社会科学界的极大关注。说服力预测特别令人感兴趣,因为有说服力的演讲者对我们的思想,观点和信仰有很大的影响。在这项工作中,我们研究如何利用相关的扬声器特性之间的关系,在一个层次结构,可以帮助提高我们的能力来预测一个扬声器是多么有说服力。我们提出了一种新的算法,使我们能够通过这个层次结构的反向传播。这种分层模型在公开可用的POM数据集上的分类准确性比当前最先进的方法降低了25%的相对误差。
2017-06-23 cs.LG
An objective function for order preserving hierarchical clustering
针对概率偏序与有向无环图的保序层次聚类问题,提出相关理论与双目标优化目标函数,证明其最优解的优良性质,并设计多项式时间近似算法,性能显著优于现有方法。
2024-12-10 cs.LG math.CO
Global Optimization By Gradient From Hierarchical Score-Matching Spaces
本文提出一种基于分数匹配的梯度优化方法,统一处理各种复杂约束的优化问题,通过实验验证其有效性,并揭示了全局优化与扩散生成模型之间的深层联系。
2026-03-18 cs.LG
A Tutorial on Bayesian Optimization of Expensive Cost Functions, with Application to Active User Modeling and Hierarchical Reinforcement Learning
我们提出了一个教程贝叶斯优化,找到最大的昂贵的成本函数的方法。贝叶斯优化采用贝叶斯技术,在目标函数上设置先验,并将其与证据相结合以获得后验函数。这允许基于效用选择下一个观测值,以便对目标函数进行观测,这必须考虑到勘探(从高度不确定性的区域取样)和开发(取样区域可能提供比当前最佳观测值更好的结果)。我们还提出了两个详细的扩展贝叶斯优化,与实验-主动用户建模与偏好,和分层强化学习--和讨论的优点和缺点贝叶斯优化的基础上,我们的经验。
2010-12-12 cs.LG
Hierarchical Clustering: Objective Functions and Algorithms
University of Copenhagen(哥本哈根大学);University of Oxford(牛津大学);The Alan Turing Institute(阿兰·图灵研究所);École normale supérieure, CNRS, PSL Research University(巴黎高等师范学院,法国国家科学研究中心,巴黎文理研究大学);Simon Fraser University(西蒙菲莎大学)
层次聚类是以越来越细的粒度将数据集递归划分为聚类。由于大多数关于层次聚类的工作都是基于提供算法,而不是优化特定目标,Dasgupta将基于相似性的层次聚类框定为组合优化问题,其中“好”的层次聚类是最小化某些成本函数的聚类。他表明,这个成本函数具有某些理想的性质。我们采取一个公理化的方法来定义“好”的目标函数的相似性和差异为基础的层次聚类。我们描述了一组“可接受”的目标函数(包括Dasgupta的一个),具有的属性,当输入承认一个“自然”的层次聚类,它有一个最佳值。通过构造合适的目标函数,分析了实际算法的性能,并提出了改进的算法。对于基于相似性的层次聚类,Dasgupta表明分裂稀疏切割方法实现了$O(\log^{3/2} n)$近似。我们给出了一个精细的分析算法,并表明它实际上实现了一个$O(\sqrt{\log n})$ -近似。(Charikar和Chatziafratis独立证明,这是一个$O(\sqrt{\log n})$ -近似)。这改进了基于LP的$O(\log n)$ -约。罗伊和波库塔对于基于差异的层次聚类,我们表明,经典的平均连锁算法给出了一个因子2近似,并提供一种简单且更好的算法,其给出因子3/2近似。最后,我们考虑“超越最坏情况”的情况下,通过概括的随机块模型的层次聚类。我们表明,Dasgupta的成本函数具有理想的属性,这些输入,我们提供了一个简单的1 + …
2017-04-07 cs.DS cs.LG
DIPPER: Direct Preference Optimization to Accelerate Primitive-Enabled Hierarchical Reinforcement Learning
DIPPER提出一种结合直接偏好优化与强化学习的层次化方法,通过原语信息正则化缓解非平稳性和不可行子目标生成问题,在复杂机器人任务上优于现有层次化和非层次化基线。
2024-12-31 cs.LG
Expanding the class of global objective functions for dissimilarity-based hierarchical clustering
University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
最近的工作差异为基础的层次聚类导致了这个经典问题的全球目标函数的引入。一些标准的方法,如平均链接,以及一些新的算法已被证明提供近似保证。在这里,我们介绍了一个广泛的新的类的目标函数,满足所需的性能研究在以前的工作。许多常见的凝聚和分裂聚类方法被证明是这些目标的贪心算法,这是受遗传学中相关概念的启发。
2022-07-28 cs.LG math.PR math.ST
Not All Objectives Are Born Equal: Priority-Constrained Descent for Hierarchical Multi-Objective Optimization
Department of Computer Science & Engineering, American University of Sharjah(美国沙迦大学计算机科学与工程系);Senseable City Laboratory, Massachusetts Institute of Technology(麻省理工学院可感知城市实验室)
提出优先级约束下降(PCD)框架,通过保持主目标方向并最小化扭曲以保障次目标进展,解决多目标优化中的层次结构问题,在压缩、稀疏性等任务中优于现有方法。
2026-09-23 cs.LG stat.ML
Hierarchical Genetic Algorithms with evolving objective functions
Indian Institute of Technology Madras(印度理工学院马德拉斯分校);Chennai Mathematical Institute(金奈数学研究所)
我们提出了一个遗传算法的框架,它使用多层次结构来解决一个优化问题,通过搜索空间的简单目标函数。我们解决了旅行推销员问题的一个变种称为\texttt{soft-TSP},并表明,当对整体目标函数的约束条件发生变化时,该算法适应于生产出解决方案的变化的目标。我们使用这个想法来加速学习,通过系统地改变约束来找到一个更全局最优的解决方案。我们还使用这个框架来解决多项式回归,其中实际目标函数是未知的,但在可用目标函数的空间上搜索会产生一个很好的近似解。
2019-08-05 cs.AI cs.LG cs.NE
Thoughts on Objectives of Sparse and Hierarchical Masked Image Model
Kyushu Institute of Technology(九州工业大学)
本文针对性能优异的自监督SparK模型,提出Mesh Mask-ed新型掩码模式,并考察其在预训练图像掩码中对模型性能的影响。
2025-05-12 cs.CV cs.LG eess.IV
Hierarchical Decision Making with Structured Policies: A Principled Design via Inverse Optimization
提出一种逆优化框架,将上层目标抽象与下层结构化决策整合,确保下层策略目标与长期任务一致,在资源分配和避障任务中优于端到端RL等方法。
2026-06-27 cs.LG
Characterizing Admissible Objective Functions for Hierarchical Clustering
Faculty of Engineering, Shizuoka University(izuoka大学工学部);Graduate School of Integrated Science and Technology, Shizuoka University(izuoka大学综合科学技术研究院)
本文研究层次聚类的可容许目标函数,对基于聚合相似度的和型目标函数,完整刻画了对称多项式次数≤2时的可容许性,并给出次数为3的充分条件;引入最大型目标函数,刻画了任意对称缩放函数的可容许性。
2026-06-17 cs.DS cs.LG
EPO: Hierarchical LLM Agents with Environment Preference Optimization
Brown University(布朗大学)
本文提出分层LLM智能体框架EPO,通过环境反馈生成偏好信号训练模型,在ALFRED长时程决策任务中取得最先进性能并登顶公开排行榜。
2024-10-03 cs.LG
M-HOF-Opt: Multi-Objective Hierarchical Output Feedback Optimization via Multiplier Induced Loss Landscape Scheduling
Institute of AI for Health, Computational Health Center, Helmholtz Munich(亥姆霍兹慕尼黑人工智能健康研究所(计算健康中心));Machine Learning Research Lab, Volkswagen Group(大众集团机器学习研究实验室);KTH Royal Institute of Technology(瑞典皇家理工学院);Technical University Munich(慕尼黑工业大学);U.S. FDA/CDRH(美国食品药品监督管理局医疗器械和辐射健康中心);Applied Geology, GeoZentrum Nordbayern, Friedrich-Alexander-Universität(弗里德里希-亚历山大-埃尔朗根-纽伦堡大学北巴伐利亚地理中心应用地质学系)
本文提出M-HOF-Opt方法,通过时变乘子和分层输出反馈调度损失景观,将多目标优化转化为约束子问题序列,在降低内存与计算开销的同时提升域泛化鲁棒性。
2025-03-11 cs.AI cs.LG
HM3: Hierarchical Multi-Objective Model Merging for Pretrained Models
The Hong Kong Polytechnic University(香港理工大学);Chongqing University(重庆大学)
本文提出HM3框架,将架构空间模型合并建模为强化学习任务,并结合多目标优化学习帕累托前沿,以支持跨架构预训练模型的定制化合并。
2024-09-27 cs.LG
Semi-Empirical Objective Functions for MCMC Proposal Optimization
Duke University(杜克大学)
目前用于训练神经MCMC建议分布的目标函数隐式地依赖于架构限制来产生合理的优化结果,这阻碍了高度表达的神经MCMC建议架构的开发。在这项工作中,我们介绍并证明了一个半经验的过程,用于确定近似的目标函数,适用于优化任意参数化的建议分布MCMC方法。我们提出的从头算目标函数包括加权组合的功能,其全局最优值和变换不变性的约束,我们认为应该坚持的MCMC效率的一般措施,用于建议优化。我们的实验结果表明,Ab Initio目标函数保持良好的性能和更好的优化行为相比,现有的目标函数的神经MCMC优化。我们发现,Ab Initio目标函数具有足够的鲁棒性,能够对由深度生成网络参数化的神经建议分布进行自信的优化,从而超越传统MCMC方案的范围
2022-04-09 cs.LG
Fair Hierarchical Clustering
Google(谷歌);University of Maryland(马里兰大学);Carnegie Mellon University(卡内基梅隆大学)
随着机器学习变得越来越普遍,研究人员开始认识到确保机器学习系统公平的必要性。最近,有兴趣定义一个公平的概念,减轻在传统的聚类过度表示。在本文中,我们将这一概念扩展到层次聚类,其目标是递归地划分数据以优化特定目标。对于各种自然的目标,我们得到简单,有效的算法,找到一个可证明良好的公平分层聚类。经验上,我们表明,我们的算法可以找到一个公平的层次聚类,只有一个可以忽略不计的损失的目标。
2020-06-19 cs.DS cs.LG stat.ML
Hyper-parameter optimization based on soft actor critic and hierarchical mixture regularization
Zhejiang University of Science and Technology(浙江科技大学)
超参数优化是机器学习中的一个关键问题,因为它的目标是在任何模型中实现最先进的性能。在这一领域人们已经做了大量的努力,如随机搜索、网格搜索、贝叶斯优化等。本文将超参数优化过程建模为马尔可夫决策过程,并采用强化学习对其进行处理。提出了一种新的基于软演员评判和分层混合正则化的超参数优化方法。实验表明,该方法能在较短的时间内获得较好的超参数。
2021-12-08 cs.AI cs.LG
Learning with Hierarchical Complement Objective
National Tsing-Hua University(国立清华大学);Electronic and Optoelectronic System Research Laboratories, ITRI(工业技术研究院电子与光电系统研究实验室);Google Research(谷歌研究院)
标签层次广泛存在于许多与视觉相关的问题中,从图像分类中的显式标签层次到语义分割中的隐式标签层次。然而,最先进的方法通常部署交叉熵损失,隐含地假设类标签是排他性的,因此彼此独立。由于来自同一父类别的类通常具有一定的相似性,我们设计了一个新的训练图,称为分层互补目标训练(HCOT),它利用了标签层次结构中的信息。HCOT最大化地面真值类的概率,同时以分层方式中和其余类的概率,使模型显式地利用标签层次结构。建议的HCOT评估图像分类和语义分割任务。实验结果证实,HCOT在CIFAR-100、ImageNet-2012和PASCAL-Context中的性能优于最先进的模型。该研究进一步证明了HCOT可以应用于具有潜在标签层次结构的任务,这是许多机器学习任务的共同特征。
2019-11-17 cs.CV cs.LG
HCPO: Hierarchical Conductor-Based Policy Optimization in Multi-Agent Reinforcement Learning
针对协作式多智能体强化学习中联合策略因缺乏协调探索而受限的问题,提出基于指挥者的联合策略框架及HCPO算法,通过分层优化提升联合策略表达能力与探索效率,理论验证单调性,实验在多基准上优于基线。
2025-11-15 cs.LG
Objective-Based Hierarchical Clustering of Deep Embedding Vectors
ITMO University(圣彼得堡国立信息技术机械与光学大学);Indiana University, Bloomington(印第安纳大学伯明顿分校)
我们发起了一个全面的实验研究,基于客观的层次聚类方法对海量数据集组成的深度嵌入向量从计算机视觉和NLP应用。这包括各种各样的图像嵌入(ImageNet,ImageNet V2,NaBirds),词嵌入(Twitter,Wikipedia)和句子嵌入(SST-2)向量,这些向量来自最近几个流行的模型(例如ResNet,ResNext,Inception V3,SBERT)。我们的研究包括数据集高达$4.5$万个条目,嵌入维度高达$2048$。为了解决将层次聚类扩展到如此大的数据集的挑战,我们提出了一个新的实用的层次聚类算法B++&C。与广泛的经典方法和最近的算法相比,它对流行的Moseley-Wang(MW)/ Cohen-Addad等人(CKMM)目标(归一化)平均提高了5%/20%。我们还介绍了一个理论算法B2 SAT & C,实现了$0.74$ -近似的CKMM目标在多项式时间。这是第一次重大改进平凡的$2/3$ -近似实现的随机二叉树。在这项工作之前,$\approx 2/3 + 0.0004$的最佳多时间近似是由Charikar等人(SODA'19)提出的。
2022-06-08 cs.AI cs.DS cs.LG
Learning Syntax Without Planting Trees: Understanding Hierarchical Generalization in Transformers
University of Washington(华盛顿大学);Carnegie Mellon University(卡内基梅隆大学);Microsoft Research(微软研究院);Allen Institute for AI(艾伦人工智能研究所)
本文通过合成数据集、训练目标对比、剪枝实验和贝叶斯分析,揭示语言建模目标促使 Transformer 形成层级句法泛化偏置。
2025-03-16 cs.CL cs.LG
Hierarchical Clustering better than Average-Linkage
Stanford University(斯坦福大学)
层次聚类(HC)是探索性数据分析中的一个广泛研究的问题,通常通过简单的凝聚过程,如平均联系,单一联系或完全联系来解决。在本文中,我们重点关注最近引入的两个目标,以深入了解平均连锁聚类的性能:由[Moseley和Wang,2017]提出的基于相似性的HC目标和由[Cohen-Addad等人,2018年]。在这两种情况下,我们提出了紧反例,表明平均连锁不能分别获得优于1/3和2/3的近似值(在最坏情况下),解决了[Moseley和Wang,2017]中提出的一个悬而未决的问题。这与随机解的近似比相匹配,这就提出了一个自然的问题:我们能为这些目标击败平均联系吗?我们的回答是肯定的,给出了两个新的算法的基础上半定规划证明更好的保证。
2018-08-07 cs.DS cs.GT cs.LG
Black-Box Approximation and Optimization with Hierarchical Tucker Decomposition
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院);Artificial Intelligence Research Institute (AIRI)(人工智能研究院(AIRI))
提出基于层级 Tucker 分解与 MaxVol 索引选择的黑盒逼近及无梯度优化方法 HTBB,在高达 1000 维的 14 个复杂问题上鲁棒且精度优于经典方法和张量列分解方法。
2024-02-05 cs.LG math.OC
Robust Hierarchical-Optimization RLS Against Sparse Outliers
University at Buffalo, The State University of New York(纽约州立大学布法罗分校)
本文对最近提出的分层优化递归最小二乘(HO-RLS)方法进行了改进,以防止异常值污染线性回归模型。离群值被建模为滋扰变量,并通过稀疏诱导(非)凸正则化最小二乘任务与线性滤波器/系统变量一起估计。建议的离群鲁棒HO-RLS建立在具有恒定步长的最速下降方向上(学习率),不需要矩阵求逆(引理),适应已知相关矩阵的有色标称噪声,表现出小的计算足迹,并且在概率意义上为系统估计收敛到分层优化问题的解提供理论保证:在经典系综LS损失的最小化器上最小化凸损失,该凸损失模拟关于未知系统的先验知识。在静态和非静态的情况下,综合生成的数据进行了广泛的数值测试,展示了显着的改进,所提出的计划在国家的最先进的技术。
2019-10-11 cs.LG stat.ML
Sublinear Algorithms for Hierarchical Clustering
Columbia University(哥伦比亚大学);University of Pennsylvania(宾夕法尼亚大学)
图上的层次聚类是数据采掘和机器学习中的一项基本任务,其应用领域包括遗传学、社会网络分析和信息检索。具体来说,我们认为最近流行的目标函数的层次聚类由于Dasgupta。以前的算法(近似)最小化这个目标函数需要线性的时间/空间复杂度。在许多应用中,底层图的大小可能是巨大的,使得即使使用线性时间/空间算法来处理图也在计算上具有挑战性。因此,人们对设计仅使用次线性资源就可以执行全局计算的算法有着浓厚的兴趣。这项工作的重点是研究在三个研究得很好的次线性计算模型下的海量图的层次聚类,这些模型分别关注空间、时间和通信,作为优化的主要资源:(1)(动态)流模型,其中边被呈现为流,(2)查询模型,其中使用邻居和度查询来查询图,(3)MPC模型,其中图边缘在经由通信信道连接的若干机器上被划分。在上述三个模型中,我们设计了层次聚类的次线性算法。在我们的算法结果的核心是一个视图的目标在图中的削减,这使我们能够使用一个轻松的概念削减稀疏做层次聚类,同时只引入一个小的失真的目标函数。我们的主要算法的贡献,然后显示如何削减所需形式的稀疏可以有效地构建在查询模型和MPC模型。我们通过建立几乎匹配的下限来补充我们的算法结果,这些下限排除了在每个模型中设计更好算法的可能性。
2022-06-15 cs.DS cs.LG
Combinatorial Optimization by Graph Pointer Networks and Hierarchical Reinforcement Learning
Columbia University(哥伦比亚大学);Cornell University(康奈尔大学)
在这项工作中,我们介绍了使用强化学习(RL)训练的图指针网络(GPNs),用于解决旅行商问题(TSP)。GPN通过在输入上引入图形嵌入层来构建指针网络,该层捕获节点之间的关系。此外,近似解决约束组合优化问题,如TSP的时间窗口,我们训练层次的GPNs(HGPNs)使用RL,学习分层的政策,找到一个最佳的城市置换的约束。层次结构的每一层都设计有单独的奖励函数,从而实现稳定的训练。我们的研究结果表明,在小规模TSP 50/100问题上训练的GPN可以很好地推广到大规模TSP 500/1000问题,具有更短的行程长度和更快的计算时间。我们验证了对于有时间窗的TSP等约束TSP问题,通过分层RL训练找到的可行解优于以前的基线。本着可重复研究的精神,我们将我们的数据、模型和代码公开提供。
2019-11-12 cs.LG stat.ML
Hierarchical Clustering: New Bounds and Objective
University of Alberta(阿尔伯塔大学)
层次聚类作为一种数据分析方法已经得到了广泛的研究和应用。最近,Dasgupta [2016]定义了一个精确的目标函数。给定一组$n$数据点,其中每两个项目$i$和$j$的权重函数$w_{i,j}$表示它们的相似性/不相似性,目标是建立数据点(项目)到连续较小聚类的递归(树状)划分。他定义了一个成本函数的树$T$是$Cost(T) = \sum_{i,j \in [n]} \big(w_{i,j} \times |T_{i,j}| \big)$其中$T_{i,j}$是子树植根于最少共同祖先的$i$和$j$,并提出了第一近似算法,这样的集群。然后,Moseley和Wang [2017]考虑了Dasgupta基于相似性权重的目标函数的对偶,并表明随机划分和平均链接都具有近似比$1/3$,该近似比已在一系列工作中改进为$0.585$ [Alon et al. 2020]。后来Cohen-Addad等人[2019]考虑了与Dasgupta相同的目标函数,但用于基于差异的指标,称为$Rev(T)$。结果表明,随机分配和平均连锁均具有$2/3$比,该比仅略微改善为$0.667078$ [Charikar et al. SODA 2020]。我们的第一个主要结果是考虑$Rev(T)$,并提出了一个更微妙的算法和仔细的分析,实现近似$0.71604$。我们还引入了一个新的目标函数的差异为基础的聚类。…
2021-11-12 cs.DS cs.LG
Intrinsically Motivated Hierarchical Policy Learning in Multi-objective Markov Decision Processes
针对非平稳多目标马尔可夫决策过程,提出双阶段内在动机强化学习方法,先学习通用技能,再快速引导各环境动态下的策略覆盖集演化,并在动态机器人任务中优于现有方法。
2023-08-18 cs.AI cs.LG cs.RO
HERO: Hierarchical Evidential Reasoning Optimization for Radiology Report Generation via Reason-then-Summarize
University of Pittsburgh(匹兹堡大学);University of Texas Rio Grande Valley(德克萨斯大学里奥格兰德谷分校);The University of Manchester(曼彻斯特大学)
本文提出了一种自洽的强化学习框架,用于生成可信的放射学报告,通过优化生成过程和减少幻觉,提升了临床效果。
2026-10-14 cs.AI cs.LG
Hierarchical Deep Reinforcement Learning Approach for Multi-Objective Scheduling With Varying Queue Sizes
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
多目标任务调度(MOTS)是对多个可能矛盾的约束条件进行优化的任务调度。当每个单独的任务本身就是一个多目标优化问题时,这个问题的一个具有挑战性的扩展就会出现。虽然深度强化学习(DRL)已成功应用于复杂的序列问题,但其在MOTS领域的应用受到两个挑战的阻碍。第一个挑战是DRL算法无法确保每个项目都被相同地处理,而不管其在队列中的位置如何。第二个挑战是需要管理大型队列,这会导致大型神经架构和较长的训练时间。在这项研究中,我们提出了MERLIN,一个强大的,模块化的和接近最佳的DRL为基础的多目标任务调度方法。MERLIN通过创建一个用于处理单个任务的神经网络和另一个用于调度整个队列的神经网络,将分层方法应用于MOTS问题。除了更小和训练时间更短之外,最终的体系结构还确保以相同的方式处理项目,而不管其在队列中的位置如何。此外,我们提出了一种新的方法,有效地应用基于DRL的解决方案在非常大的队列,并演示了我们如何有效地扩展MERLIN处理队列大小是由数量级大于它被训练。对多个队列大小的广泛评估表明,MERLIN的性能大大优于多个已知的基线(>22%)。
2020-07-17 cs.CR cs.LG stat.ML
Hierarchical Soft Actor-Critic: Adversarial Exploration via Mutual Information Optimization
Blackberry Cylance(黑莓Cylance)
我们描述了一种新的扩展软演员批评分层深度Q网络(HDQN)架构使用互信息度量。拟议的扩展提供了一个合适的框架,鼓励探索在这样的层次网络。这个框架的一个自然的利用是一个对抗性的设置,其中元控制器和控制器在互信息目标上玩极小极大,但在最大化预期回报上合作。
2019-06-17 cs.AI cs.IT cs.LG
Learning-Augmented Hierarchical Clustering
Johns Hopkins University(约翰斯·霍普金斯大学);Rice University(莱斯大学);Google Research(谷歌研究院);Carnegie Mellon University(卡内基梅隆大学);Texas A&M University(德克萨斯A&M大学)
本文研究利用分裂预言机辅助信息进行层次聚类,提出多项式时间和近线性时间算法,分别对Dasgupta目标和Moseley-Wang目标实现常数近似和(1-o(1))近似,突破标准方法的近似困难性,并扩展到流式与PRAM亚线性设置。
2025-06-05 cs.DS cs.LG
Effect Size Estimation for Duration Recommendation in Online Experiments: Leveraging Hierarchical Models and Objective Utility Approaches
Amazon.com Inc(亚马逊公司)
针对在线实验中效应量假设(AES)选择依赖领域知识难以自动化的问题,提出基于三层高斯混合模型和效用理论的两种数据驱动方法,实现更高效的实验持续时间推荐。
2024-04-17 cs.LG stat.ML
Behavior Learning (BL): Learning Hierarchical Optimization Structures from Data
Xiamen University(厦门大学);University of Tübingen(图宾根大学);Xi’an Jiaotong University(西安交通大学)
行为学习(BL)是一种从数据中学习分层优化结构的通用机器学习框架,结合可解释性和可识别性,适用于科学领域中的优化问题。
2026-02-23 cs.AI cs.LG stat.ML
Hierarchical Zero-Order Optimization for Deep Neural Networks
College of Physics, Peking University(北京大学物理学院);Pengcheng Laboratory(鹏城实验室);School of Computer Science, Peking University(北京大学计算机学院)
本文提出层次化零阶优化方法,通过分解网络深度维度,将查询复杂度降低至O(ML log L),在CIFAR-10和ImageNet上实现了与反向传播相当的准确性。
2026-02-11 cs.AI cs.LG
Hierarchical model-based policy optimization: from actions to action sequences and back
University College London(伦敦大学学院)
我们开发了一个规范的框架,分层模型为基础的政策优化的基础上应用二阶方法在空间中的所有可能的状态-动作路径。由此产生的自然路径梯度执行策略更新的方式是敏感的诱导稳态动作密度的长程相关结构。我们证明了自然路径梯度可以精确计算给定的环境动力学模型,并依赖于类似于高阶后继表示的表达式。在模拟中,我们表明,在所产生的政策流的本地政策更新的优先级确实反映了直观的状态空间层次结构在几个玩具问题。
2020-01-02 cs.AI cs.LG math.OC
Computer-Aided Multi-Objective Optimization in Small Molecule Discovery
MIT(麻省理工学院)
本综述探讨小分子发现中的多目标优化,对比标量化与Pareto优化方法,并总结基于库和从头生成的算法,强调贝叶斯优化在多目标从头设计中的应用机遇。
2022-10-13 cs.LG q-bio.QM
MIDI-RAE-JEPA: Hierarchical Representation Learning and Generation for Symbolic Music
研究针对符号音乐表示自监督方法探索不足的问题,提出MIDI-RAE-JEPA,结合音高和时间移位等方差目标、LeJEPA及Swin Transformer V2编码器学习分层表示,经实验验证该方法在多方面表现良好,为符号音乐表示提供了可行途径。
2026-07-17 cs.LG cs.SD eess.AS
HTPO: Towards Exploration-Exploitation Balanced Policy Optimization via Hierarchical Token-level Objective Control
School of Information Science and Electronic Engineering, Shanghai Jiao Tong University(上海交通大学信息科学与电子工程学院);Xiaohongshu Inc.(小红书公司);MoE Key Lab of Artificial Intelligence, AI Institute, Shanghai Jiao Tong University(上海交通大学人工智能研究院)
本文提出HTPO算法,通过分层划分响应令牌为功能组,设计专用优化目标以平衡探索与利用,实验验证其在推理基准上的优越性。
2026-05-08 cs.AI cs.CL cs.LG
HEAS: Hierarchical Evolutionary Agent-Based Simulation Framework for Multi-Objective Policy Search
Department of Politics and Public Administration(政治与公共行政系);The University of Hong Kong(香港大学);Department of Applied Social Sciences(应用社会科学系);The Hong Kong Polytechnic University(香港理工大学)
提出HEAS框架,结合智能体仿真、进化搜索与场景评估,通过“度量契约”统一优化、评估和验证,支持多目标策略搜索。
2026-06-23 cs.CE cs.LG cs.MA
Offline Hierarchical Reinforcement Learning via Inverse Optimization
University of YYY(YYY大学);Institute of WWW(WWW研究院)
针对离线数据中高层动作不可观测且策略结构可能不一致的问题,本文提出 OHIO 框架,通过逆优化恢复隐式高层动作以构建可训练数据集,并在机器人与网络优化任务中验证其性能与鲁棒性。
2025-03-18 cs.LG cs.SY eess.SY
Towards Fairness-Aware Multi-Objective Optimization
East China University of Science and Technology(华东理工大学);Northeastern University(东北大学);Bielefeld University(比勒费尔德大学);University of Surrey(萨里大学)
近年来,公平感知机器学习在减轻决策中的不公平或歧视方面得到了快速发展,应用范围广泛。然而,公平感知的多目标最优化问题在现实生活中确实很常见,如公平资源分配问题和数据驱动的多目标最优化问题,却很少受到关注。本文旨在从公平性的角度阐明和拓宽我们对多目标最优化的理解。为此,我们从讨论多目标最优化中的用户偏好开始,然后探索其与机器学习和多目标最优化中的公平性的关系。在此基础上,给出了公平性感知多目标优化的典型案例,进一步阐述了公平性在传统多目标最优化、数据驱动优化和联邦优化中的重要性。最后,公平意识的多目标最优化的挑战和机遇。我们希望这篇文章能够为在优化的背景下理解公平性迈出一小步,并促进对公平感知多目标最优化的研究兴趣。
2022-07-22 cs.AI cs.LG cs.NE
Efficient Computation of Probabilistic Dominance in Robust Multi-Objective Optimization
Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU)(弗里德里希-亚历山大大学埃尔兰根-纽伦堡分校(FAU))
现实世界的问题通常需要同时优化几个经常相互冲突的目标。这些多目标优化问题中的许多问题的特征在于其决策变量或目标函数中的大范围的不确定性,这进一步增加了优化的复杂性。为了应对这些不确定性,鲁棒优化被广泛研究,旨在区分候选解与由置信区间,概率分布或采样数据指定的不确定目标。然而,现有的技术大多没有考虑实际的分布或假设不确定性的均匀或高斯分布的实例。本文介绍了一种经验的方法,使一个有效的比较候选解决方案与不确定的目标,可以遵循任意分布。给定两个候选解进行比较,该算子计算一个解在每个不确定目标方面优于另一个解的概率。它可以替代现有优化技术(如进化算法)的标准比较算子,以发现具有多个不确定目标的问题的鲁棒解决方案。本文还提出了将各种不确定性,在著名的多目标问题,提供一个基准评估不确定性感知优化技术。所提出的比较算子和基准套件集成到现有的优化工具中,该工具具有多目标优化问题和算法的选择。实验结果表明,与现有技术相比,该方法在较低的开销下获得了较高的优化质量。
2019-10-18 cs.LG cs.NE stat.ML
A Hierarchical Two-tier Approach to Hyper-parameter Optimization in Reinforcement Learning
Facultad Regional Villa María, UTN(UTN玛丽亚城地区学院);CIT Villa María - CONICET-UNVM(玛丽亚城跨学科研究中心 - CONICET-UNVM);Instituto de Desarrollo y Diseño CONICET-UTN(CONICET-UTN发展与设计研究所)
在强化学习(RL)算法中,超参数的优化是一项关键任务,因为它们决定了智能体如何通过与环境交互来学习其策略,从而决定了收集什么数据。在这项工作中,提出了一种使用贝叶斯优化来执行两步优化的方法:首先,将类别RL结构超参数作为二进制变量,并使用针对这些变量定制的获取函数进行优化。然后,在较低的抽象级别,解决方案级别的超参数进行优化,通过诉诸预期的改善采集功能,同时使用最好的分类超参数中找到的优化抽象的上层。这种两层的方法是在一个模拟的控制任务进行验证。所获得的结果是有前途的,并开辟了更多的用户独立的应用程序的强化学习的方式。
2019-09-18 cs.AI cs.LG stat.ML
A proof of convergence of inverse reinforcement learning for multi-objective optimization
NEC Corporation(日本电气股份有限公司)
本文通过将多目标优化问题表述为逆问题,证明了使用投影次梯度法的Wasserstein逆强化学习在多目标优化中的收敛性,并进一步证明了使用梯度下降和投影次梯度法的逆强化学习(如最大熵逆强化学习和引导代价学习)的收敛性。
2023-05-18 cs.AI cs.LG stat.ML
Coordinated Strategies in Realistic Air Combat by Hierarchical Multi-Agent Reinforcement Learning
IDSIA, USI-SUPSI(Dalle Molle人工智能研究所,提契诺大学-瑞士南部应用科学与艺术大学);Armasuisse S+T(瑞士联邦国防采购局科学技术部)
针对真实空战中的态势感知与非线性动力学挑战,提出分层多智能体强化学习框架,结合异构动力学、课程学习与联赛对战,提升缠斗场景的学习效率与作战性能。
2025-10-22 cs.AI cs.HC cs.LG
Stochastic hierarchical data-driven optimization: application to plasma-surface kinetics
Instituto de Plasmas e Fusão Nuclear(等离子体与核聚变研究所);Instituto Superior Técnico(技术高等学院)
本文提出了一种随机分层数据驱动优化方法,用于高效校准物理模型,特别是在等离子体-表面相互作用中的应用,通过减少的Hessian近似和概率公式提升样本效率。
2026-02-04 cs.AI cs.LG physics.chem-ph
Hierarchical Testing with Rabbit Optimization for Industrial Cyber-Physical Systems
Department of Computer Science, University of Liverpool(利物浦大学计算机科学系);Department of Electrical and Electronic Engineering, University of Sheffield(谢菲尔德大学电子与电气工程系)
本文提出HERO框架,利用人工兔优化生成物理约束对抗样本,评估工业信息物理系统中PHM模型的鲁棒性,实验证明其能发现先进模型漏洞。
2025-07-05 cs.AI cs.LG cs.SY