Preference-Conditioned Multi-Objective Reinforcement Learning for Tactical Decision Making in Heavy-Duty Vehicles
Department of Computer Science and Engineering, Chalmers University of Technology and University of Gothenburg（计算机科学与工程系，查尔姆斯理工大学和哥德堡大学）；Department of Mechanics and Maritime Sciences, Chalmers University of Technology（机械与海洋科学系，查尔姆斯理工大学）
提出基于近端策略优化的多目标强化学习框架，学习一组帕累托最优策略以平衡安全性、能源效率和时间效率，实现无需重新训练的灵活决策。
2026-10-12 cs.AI cs.LG cs.SY
Latent-Conditioned Policy Gradient for Multi-Objective Deep Reinforcement Learning
Hitachi America, Ltd. R&D（日立美国研发有限公司）
针对多目标强化学习中穷举帕累托最优策略难度大的问题，提出一种基于策略梯度的单网络训练算法，无需线性标量化即可单次获取近似帕累托集，适配连续与离散动作空间，性能优于标准基线。
2024-10-05 cs.LG cs.RO
Pareto-Conditioned Diffusion Models for Offline Multi-Objective Optimization
Aalto University（阿尔托大学）；Tampere University（塔尔库大学）
基于帕累托条件的扩散模型用于离线多目标优化，通过条件采样解决离线多目标优化问题，提升泛化能力和任务一致性。
2026-02-13 cs.AI cs.LG
Pareto Inverse Reinforcement Learning for Diverse Expert Policy Generation
Sungkyunkwan University（成均馆大学）
本文提出 ParIRL 框架，利用奖励距离估计正则化判别器，从有限专家数据集生成适应多目标偏好的帕累托策略集，并将其蒸馏为偏好条件扩散模型，在多任务和 CARLA 自动驾驶中优于其他 IRL 算法。
2024-08-22 cs.LG
Hindsight Preference Replay Improves Preference-Conditioned Multi-Objective Reinforcement Learning
School of Computer Science, University of Galway（计算机科学学院，Galway大学）
HPR通过回放增强策略改进CAPQL，提升多目标强化学习中偏好条件下的超体积和预期效用性能。
2026-01-08 cs.AI cs.LG
Pareto Set Learning for Neural Multi-objective Combinatorial Optimization
City University of Hong Kong（香港城市大学）
多目标组合优化（MOCO）问题在实际应用中有着广泛的应用。然而，精确地解决这些问题将是非常具有挑战性的，特别是当它们是NP难的时候。在过去的几十年里，许多手工制作的探试法被提出来解决不同的MOCO问题。在这项工作中，我们推广了神经组合优化的思想，并开发了一种基于学习的方法来近似整个Pareto集为一个给定的MOCO问题，没有进一步的搜索过程。我们提出了一个单一的偏好条件模型，直接产生近似Pareto解决方案的任何权衡偏好，并设计了一个有效的多目标强化学习算法来训练这个模型。我们提出的方法可以被视为一个基于学习的扩展，广泛使用的基于分解的多目标进化算法（MOEA/D）。它使用一个单一的模型来适应所有可能的偏好，而其他方法使用有限数量的解决方案来近似帕累托集。实验结果表明，我们提出的方法显着优于其他一些方法的多目标旅行商问题，多目标车辆路径问题，多目标背包问题的解决方案的质量，速度和模型效率。
2022-05-09 cs.LG cs.NE math.OC
Pareto Continual Learning: Preference-Conditioned Learning and Adaption for Dynamic Stability-Plasticity Trade-off
City University of Hong Kong（香港城市大学）；HK Institute of Science & Innovation, Chinese Academy of Sciences（中国科学院香港创新研究院）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）；City University of Hong Kong Shenzhen Research Institute（香港城市大学深圳研究院）；University of Science and Technology of China（中国科学技术大学）
本文提出 ParetoCL 框架，将持续学习中的稳定性-可塑性权衡转化为多目标优化问题，通过偏好条件化模型学习 Pareto 最优解集，实现推理期间的动态适应，优于现有方法。
2025-03-30 cs.AI cs.LG
ProMORNA: An End-to-End Generative Framework for Full-Length mRNA Design
Nanjing Foreign Language School（南京外国语学校）；School of Science, China Pharmaceutical University（中国药科大学理学院）；School of Pharmacy, China Pharmaceutical University（中国药科大学药学院）
本文提出ProMORNA框架，通过多目标强化学习生成全长mRNA，优化稳定性、翻译效率和免疫安全。在火萤虫荧光素酶目标上验证，提升了预测半衰期和翻译效率的帕累托前沿。
2026-10-23 cs.AI cs.LG q-bio.BM
Benchmarking Offline Multi-Objective Reinforcement Learning in Critical Care
本文评估了三种离线多目标强化学习算法在重症护理中的性能，发现PEDA DT在灵活性和多目标决策方面表现优异，为个性化医疗决策提供了新思路。
2025-12-08 cs.LG
Learning Pareto-Optimal Pandemic Intervention Policies with MORL
本研究提出结合多目标强化学习与高保真随机微分方程疫情模拟器的框架，训练帕累托条件网络智能体，挖掘不同传染病防控中卫生与经济的策略权衡，为循证公共卫生政策制定提供支持。
2025-10-02 cs.AI cs.CY cs.LG
Exploring the Pareto front of multi-objective COVID-19 mitigation policies using reinforcement learning
Vrije Universiteit Brussel（布鲁塞尔自由大学）；National University of Ireland Galway（爱尔兰国立大学戈尔韦分校）；University of Antwerp（安特卫普大学）；Hasselt University（哈瑟尔特大学）；HU University of Applied Sciences Utrecht（乌得勒支应用科学大学）
传染病爆发可能对公共卫生和社会进程产生破坏性影响。由于流行病缓解背景下的决策很难，强化学习提供了一种结合复杂流行病模型自动学习预防策略的方法。当前的研究重点是优化政策一个单一的目标，比如病原体的攻击率。然而，由于减轻流行病涉及不同的、可能相互冲突的标准（即，流行率、死亡率、发病率、成本），需要采取多目标办法来学习平衡的政策。为了将这个决策过程提升到现实世界的流行病模型中，我们应用了深度多目标强化学习，并建立在最先进的算法Pareto Conditioned Networks（PCN）的基础上，来学习一组近似于决策问题的Pareto前沿的解决方案。我们考虑了比利时COVID-19疫情的第一波，该疫情通过封锁得到缓解，并研究了不同的解除隔离策略，旨在最大限度地减少COVID-19病例（即，感染和住院）以及所采取的缓解措施引起的社会负担。我们贡献了一个多目标马尔可夫决策过程，该过程封装了用于在COVID-19流行期间为政策制定者提供信息的随机隔室模型。由于这些社会缓解措施是在一个连续的行动空间中实施的，该空间调节了年龄结构流行病模型的接触矩阵，因此我们将PCN扩展到这种设置。我们评估了PCN返回的解决方案，并观察到，只要住院率足够低，它就能正确地学习减少社会负担。因此，在这项工作中，我们证明了多目标强化学习在复杂的流行病学模型中是可以实现的，并为平衡复杂的缓解政策提供了必要的见解。
2022-04-11 cs.AI cs.LG q-bio.PE
Which Preferences to Train On? End-to-End Multi-Objective Alignment with an Adversarial Preference Distribution
POSTECH（浦项科技大学）
针对多目标对齐中偏好分布选择问题，提出MAESTRO方法，通过对抗性偏好分布的端到端RL训练单一模型，在多个任务上以最低成本实现最佳帕累托前沿。
2026-10-06 cs.LG
Pareto Set Learning for Multi-Objective Reinforcement Learning
Nanjing University（南京大学）
针对现有多目标强化学习方法难以获取完整帕累托前沿、无法为不同偏好生成个性化策略的问题，提出基于超网络的通用分解框架PSL-MORL，理论保证其性能，实验验证其在帕累托前沿覆盖效果上显著优于现有方法。
2025-01-14 cs.LG
Learning Pareto Set for Multi-Objective Continuous Robot Control
Southern University of Science and Technology（南方科技大学）；Shenzhen University（深圳大学）；City University of Hong Kong（香港城市大学）
提出一种资源高效的多目标强化学习算法，利用单个 hypernet 在高维参数空间学习 Pareto set 的连续表示，以最少的参数实现最佳性能。
2024-06-27 cs.AI cs.LG cs.RO
C-MORL: Multi-Objective Reinforcement Learning through Efficient Discovery of Pareto Front
University of Oxford（牛津大学）；The Hong Kong University of Science and Technology（香港科学与技术大学）；Queen Mary University of London（伦敦大学玛丽女王学院）；Microsoft Research Asia（微软亚洲研究院）；Peking University（北京大学）；University of Alberta（阿尔伯塔大学）
本文提出C-MORL算法，通过两阶段训练结合约束策略优化与多目标强化学习，高效发现帕累托前沿，在多达九个目标的控制任务上取得更优性能。
2025-05-07 cs.LG cs.SY eess.SY
FSPO: Policy-Consistent Risk and Pareto-Feasible Control for Budgeted LLM RL Post-Training
University of Chinese Academy of Sciences（中国科学院大学）；Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）
FSPO通过策略一致风险模型、决策条件轨迹校准和帕累托资源延续证书，联合解决预算受限LLM强化学习后训练中的风险估计、校准和资源可行性问题，显著提升准确率并降低决策错误。
2026-10-19 cs.AI cs.CL cs.LG
Pareto Deterministic Policy Gradients and Its Application in 5G Massive MIMO Networks
Virginia Tech（弗吉尼亚理工学院暨州立大学）；Samsung Research America（三星美国研究院）
在本文中，我们考虑通过强化学习（RL）方法联合优化小区负载平衡和网络吞吐量，其中小区间切换（即，用户关联分配）和大规模MIMO天线倾斜被配置为要学习的RL策略。我们使用RL的基本原理是规避分析建模用户移动性和网络动态的挑战。为了实现这种联合优化，我们将向量奖励集成到RL值网络中，并通过单独的策略网络进行RL操作。我们将这种方法称为帕累托确定性策略梯度（PDPG）。它是一种行动者-批评者、无模型和确定性的策略算法，可以处理耦合目标，具有以下两个优点：1）它通过利用向量奖励的自由度而不是选择手工标量奖励来解决优化问题; 2）可以显着减少多个策略的交叉验证。因此，RL使能网络以自组织的方式表现：它通过测量历史了解底层用户移动性，以在没有环境假设的情况下主动操作切换和天线倾斜。我们的数值计算表明，引入RL方法优于基于标量奖励的方法。同时，为了自成一体，包括一个理想的静态优化的暴力搜索求解器作为基准。比较结果表明，RL方法执行以及这种理想的策略，虽然前者是有限的环境观测和较低的动作频率的约束，而后者有充分的访问用户的移动性。我们所介绍的方法的收敛性也测试在不同的用户移动性环境下，我们的测量数据从一个真实的场景。
2020-12-02 cs.LG cs.NI
Thirty Years of Machine Learning: The Road to Pareto-Optimal Wireless Networks
Tsinghua University（清华大学）；University of Science and Technology Beijing（北京科技大学）；University of South Florida（南佛罗里达大学）；University of Southampton（南安普顿大学）
未来的无线网络在支持军事和民用领域的广泛复杂应用方面具有巨大的潜力，用户能够享受高速率，低延迟，低成本和可靠的信息服务。由于网络结构和无线服务的复杂异构性，实现这一雄心勃勃的目标需要新的无线电技术进行自适应学习和智能决策。机器学习（ML）算法在支持大数据分析、高效参数估计和交互式决策制定方面取得了巨大成功。因此，在这篇文章中，我们通过详细介绍监督学习，无监督学习，强化学习和深度学习来回顾ML三十年的历史。此外，我们还研究了它们在无线网络的引人注目的应用中的应用，包括异构网络（HetNets），认知无线电（CR），物联网（IoT），机器对机器网络（M2M）等。本文旨在帮助读者澄清各种ML算法的动机和方法，以便调用它们用于迄今为止未开发的服务以及未来无线网络的情形。
2020-08-02 cs.LG cs.NI stat.ML
Rewarded soups: towards Pareto-optimal alignment by interpolating weights fine-tuned on diverse rewards
Sorbonne Université（索邦大学）；CNRS（法国国家科学研究中心）；ISIR（智能系统与机器人研究所）；Meta AI
本文提出奖励汤方法，通过独立微调多个网络并线性插值权重，实现多样奖励下的帕累托最优对齐，在多个任务上验证了有效性。
2023-10-16 cs.AI cs.CV cs.LG
Breaking the Filter Bubble: A Semantic Pareto-DQN Framework for Multi-Objective Recommendation
A3Data
提出语义Pareto-DQN框架，将推荐建模为多目标马尔可夫决策过程，通过超体积动作选择同时优化用户参与度、信息多样性和提供者公平性，在MovieLens数据集上验证了其在不显著牺牲参与度的情况下提升社会目标的能力。
2026-06-24 cs.AI
Pareto Actor-Critic for Equilibrium Selection in Multi-Agent Reinforcement Learning
University of Edinburgh（爱丁堡大学）
针对多智能体强化学习易收敛到帕累托次优均衡的问题，提出Pareto-AC算法，利用无冲突博弈性质选择帕累托最优均衡，在多种博弈中优于七种现有算法，并扩展出可扩展的PACDCG。
2023-10-14 cs.LG cs.MA
Combinatorial Multi-Objective Multi-Armed Bandit Problem
Bilkent University（比尔肯特大学）；The Ohio State University（俄亥俄州立大学）
在本文中，我们介绍了组合多目标多臂强盗（COMO-MAB）的问题，抓住了组合和多目标在线学习的挑战，同时。在这种设置中，学习器的目标是每次选择一个动作，其奖励向量是该动作中手臂的奖励向量的线性组合，以学习超级帕累托最优动作的集合，该集合包括帕累托最优动作和在将任意小正数添加到其期望奖励向量之后变为帕累托最优的动作。我们定义了Pareto后悔性能指标，并提出了一个公平的学习算法，其Pareto后悔为$O(N L^3 \log T)$，其中$T$是时间范围，$N$是手臂数，$L$是动作中的最大手臂数.我们表明，COMO-MAB有广泛的应用，包括向用户和网络路由项目的建议束，并专注于多用户通信中存在的多维性能指标的资源分配应用程序，我们表明，我们的算法优于现有的MAB算法。
2018-03-11 cs.LG
Identifying Coordination in a Cognitive Radar Network -- A Multi-Objective Inverse Reinforcement Learning Approach
Cornell University（康奈尔大学）；DEVCOM Army Research Laboratory（美国陆军作战能力发展司令部陆军研究实验室）；U.S Army Research Laboratory（美国陆军研究实验室）
假设一个目标被认知雷达网络跟踪。如果目标可以截获一些雷达网络的辐射，它如何检测雷达之间的协调？通过“协调”，我们的意思是雷达辐射满足帕累托最优性相对于多目标优化每个雷达的效用。本文提供了一种新的多目标逆强化学习方法，该方法允许检测这种帕累托最优（“协调”）行为，并随后重建每个雷达的效用函数，给定一个有限的雷达网络发射数据集。实现这一目标的方法来自于揭示偏好的微观经济设置，也适用于多目标优化系统的逆检测和学习的更一般问题。
2022-11-13 cs.LG eess.SP
Goal-conditioned GFlowNets for Controllable Multi-Objective Molecular Design
Mila（米拉研究所）；École Polytechnique de Montréal（蒙特利尔综合理工学院）；Université de Montréal（蒙特利尔大学）；ServiceNow（ServiceNow公司）；Recursion Pharmaceuticals（Recursion制药公司）
针对多目标分子设计中标量化方法在凹帕累托前沿下易偏向极端解的问题，提出基于目标条件的分子生成替代公式，构建更可控的条件模型以沿整个帕累托前沿均匀探索解决方案。
2023-06-29 cs.LG q-bio.BM
Controllable Pareto Multi-Task Learning
City University of Hong Kong（香港城市大学）
多任务学习（MTL）系统旨在同时解决多个相关任务。在模型容量固定的情况下，任务之间会发生冲突，系统通常不得不在学习所有任务之间进行权衡。对于许多必须在线进行权衡的现实应用程序，必须训练和存储对任务具有不同偏好的多个模型。提出了一种新的可控Pareto多任务学习框架，使系统能够在单一模型下对不同任务进行实时的权衡控制。具体来说，我们制定的MTL作为一个偏好条件的多目标优化问题，从偏好的参数映射到相应的权衡解决方案。建立一个基于超网络的多任务神经网络来学习具有不同权衡偏好的所有任务，其中超网络根据偏好生成模型参数。对于推理，MTL从业者可以根据不同的权衡偏好实时轻松控制模型性能。不同应用的实验表明，该模型是有效的解决各种MTL问题。
2021-02-15 cs.LG stat.ML
Scalable Pareto Front Approximation for Deep Multi-Objective Learning
University of Freiburg（弗赖堡大学）
多目标优化（MOO）是深度学习的一个普遍挑战，然而，对于真正的深度神经网络，还没有可扩展的MOO解决方案。以前的工作要么需要为帕累托前沿的每个点优化一个新的网络，要么通过使用以可修改的偏好为条件的超网络来对可训练参数的数量产生大量开销。在本文中，我们建议通过将这些偏好扩展到特征空间来直接对网络进行调节。此外，我们确保一个良好的传播帕累托前沿的惩罚的解决方案，以保持一个小的角度的偏好向量。在一系列的实验中，我们证明了我们的帕累托前沿达到了最先进的质量，尽管计算速度明显加快。此外，我们展示了可扩展性，因为我们的方法与EfficientNet网络在CelebA数据集上近似于完整的Pareto前沿，与简单的单目标优化相比，训练时间开销仅为7%。我们在https://github.com/ruchtem/cosmos上公开发布我们的代码。
2021-10-14 cs.LG
GraphAllocBench: A Flexible Benchmark for Preference-Conditioned Multi-Objective Policy Learning
University of California, Los Angeles（加州大学洛杉矶分校）；USC Institute for Creative Technologies（美国南加州大学创意技术研究所）；U.S. Army DEVCOM Army Research Laboratory（美国陆军 DEVCOM 军事研究实验室）
研究针对多目标强化学习中偏好条件策略学习基准测试局限于简单任务和固定环境的问题，引入基于CityPlannerEnv的GraphAllocBench，提出补充指标，通过实验表明其能揭示新失败模式，激发图方法，是推进PCPL的通用可扩展测试平台。
2026-07-08 cs.LG
Multi-objective Bayesian Optimization using Pareto-frontier Entropy
Osaka University（大阪大学）；Japan Fine Ceramics Center（日本精细陶瓷中心）；Nagoya Institute of Technology（名古屋工业大学）；National Institute for Material Science（国立材料科学研究所）
研究了一种基于熵的多目标贝叶斯优化算法。熵搜索是贝叶斯优化的一种成功方法。然而，对于目标管理，现有的基于熵的方法忽略了目标之间的权衡或引入不可靠的近似。本文提出了一种新的基于熵的目标优化算法--Pareto-frontier entropy search（PFES）。我们的熵可以将最优值的权衡关系，并且进一步地，我们推导出一个分析公式，而无需对标准熵搜索设置引入额外的近似或简化。我们还表明，我们的熵计算实际上是可行的，通过使用递归分解技术，已被称为研究的Pareto超体积计算。除了通常的MBO设置，其中所有的目标是同时观察，我们还考虑了“解耦”设置，其中的目标函数可以单独观察。PFES可以很容易地适应解耦的设置，通过考虑每个输出维度的边际密度的熵。该方法在Pareto边界条件下考虑了目标间的相关性，而现有方法忽略了这一点。我们的数值实验表明PFES通过几个基准数据集的有效性。
2020-02-11 cs.LG stat.ML
Network Space Search for Pareto-Efficient Spaces
MediaTek Inc.（联发科技股份有限公司）
网络空间在手工网络设计或定义神经架构搜索（NAS）的搜索空间中都被认为是一个关键因素。然而，有效的空间涉及大量的先验知识和/或手动工作，并且需要额外的约束来发现效率感知架构。在本文中，我们定义了一个新的问题，网络空间搜索（NSS），寻找有利的网络空间，而不是一个单一的架构。我们提出了一个NSS方法，直接搜索有效的感知网络空间自动，减少了人工的努力和巨大的成本，发现令人满意的。由此产生的网络空间，命名为精英空间，发现从扩展的搜索空间与最小的人类专业知识强加。帕累托有效的精英空间在各种复杂性约束下与帕累托前沿对齐，并且可以进一步用作NAS搜索空间，从而使可区分的NAS方法受益（例如，在CIFAR-100中，与基线相比，平均低2.3%的出错率和3.7%的目标约束更接近，其中需要减少约90%的样本来找到令人满意的网络）。此外，我们的NSS方法是能够在未来的未开发的空间中搜索优越的空间，揭示了巨大的潜力，在自动搜索网络空间。网址：https://minhungchen.netlify.app/publication/nss。
2021-06-20 cs.AI cs.CV cs.LG
Towards Efficient Pareto Set Approximation via Mixture of Experts Based Model Fusion
School of Computer Science, Wuhan University（武汉大学计算机学院）；School of Computer Science and Engineering, Sun Yat-sen University（中山大学计算机科学与工程学院）；University of Oxford（牛津大学）；School of Computer Science, Beijing Institute of Technology（北京理工大学计算机学院）；Nanyang Technological University（南洋理工大学）
本文提出基于混合专家模型融合的方法，解决大型深度神经网络多目标优化的帕累托集近似问题，该方法高效且可扩展，内存占用低，在视觉与语言任务上表现优异。
2026-08-21 cs.AI cs.LG
When Smaller Wins: Dual-Stage Distillation and Pareto-Guided Compression of Liquid Neural Networks for Edge Battery Prognostics
Singapore Institute of Technology（新加坡科技学院）；Institute of Materials Research and Engineering（材料研究与工程研究所）；Agency for Science, Technology and Research（科技研究局）；Institute of High Performance Computing（高性能计算研究所）
提出DLNet框架，通过欧拉离散化、双阶段知识蒸馏和帕累托引导压缩，将高容量液态神经网络压缩为边缘可部署模型，在电池健康预测中实现小模型超越大模型。
2026-06-12 cs.AI cs.LG
Deep Learning Aided Packet Routing in Aeronautical Ad-Hoc Networks Relying on Real Flight Data: From Single-Objective to Near-Pareto Multi-Objective Optimization
Beihang University（北京航空航天大学）；University of Southampton（南安普顿大学）；Bournemouth University（伯恩茅斯大学）
航空自组织网络拓扑结构的高度动态性，使得航空自组织网络中的数据包路由具有挑战性。在本文中，我们调用深度学习（DL）来辅助AAN中的路由。我们从最小化端到端（E2 E）延迟的单一目标出发。具体地，深度神经网络（DNN）被设想用于将转发节点观察到的本地地理信息映射到确定最佳下一跳所需的信息。DNN是通过从历史飞行数据中利用商业客机的常规移动模式来训练的。在训练之后，DNN由每架飞机存储，用于在飞行期间仅依赖于本地地理信息来辅助其路由决策。此外，我们扩展的DL辅助路由算法的多目标的情况下，我们的目标是同时最大限度地减少延迟，最大限度地提高路径容量，最大限度地提高路径的生命周期。基于真实飞行数据的仿真结果表明，所提出的DL辅助路由协议在E2 E时延、路径容量和路径生命周期方面均优于现有的基于位置的路由协议，并且能够逼近使用全局链路信息得到的Pareto前沿.
2021-10-28 cs.AI cs.LG cs.NI
MAdam: Metric-Aware Multi-Objective Adam
Cornell Tech（康奈尔科技）；Weill Cornell Medicine（韦尔医学院）；Delft University of Technology（代尔夫特理工大学）
提出MAdam，通过偏好条件曲率预处理多目标优化中的协调方向，解决Adam与求解器之间的权重失配和几何失配问题，在多任务学习、帕累托前沿恢复等任务中一致提升性能。
2026-10-08 cs.CV cs.LG
Multi-Objective Learning to Predict Pareto Fronts Using Hypervolume Maximization
Centrum Wiskunde & Informatica（荷兰国家数学与计算机科学研究所）；Leiden University Medical Center（莱顿大学医学中心）；Delft University of Technology（代尔夫特理工大学）
现实世界的问题往往是多目标的决策者无法指定一个先验的权衡冲突的目标之间是可取的。直觉上，在这种情况下构建机器学习解决方案需要提供多个预测，这些预测跨越并均匀覆盖所有最佳权衡解决方案的帕累托前沿。提出了一种新的多目标训练神经网络的方法，以逼近推理过程中的Pareto前沿。在我们的方法中，神经网络使用动态损失函数进行多目标训练，其中每个网络的损失（对应于多个目标）由其超体积最大化梯度加权。我们讨论并说明了为什么近似帕累托前沿的训练过程需要在单个训练样本的前沿进行优化，而不仅仅是在平均损失的前沿。三个多目标问题的实验表明，我们的方法返回的输出是很好地分布在不同的权衡近似帕累托前沿，而不需要事先指定的权衡向量。此外，与最先进的方法的比较结果突出了我们提出的方法的附加值，特别是在不对称的帕累托前沿。
2021-10-19 cs.LG
Resource-Aware Pareto-Optimal Automated Machine Learning Platform
Accenture Labs（埃森哲实验室）
在这项研究中，我们引入了一个新的平台资源感知AutoML（RA AutoML），使灵活和通用的算法来构建机器学习模型受到多个目标，以及资源和硬件的限制。RA-AutoML智能地进行超参数搜索（HPS）和神经架构搜索（NAS），以构建优化预定义目标的模型。RA-AutoML是一个通用的框架，允许用户指定许多资源/硬件约束以及手头问题或业务需求所需的目标。在其核心，RA-AutoML依赖于我们的内部搜索引擎算法，MOBOGA，它结合了修改后的约束感知贝叶斯优化和遗传算法，以构建帕累托最优候选。我们在CIFAR-10数据集上的实验表明，与最先进的神经网络模型所获得的结果相比，具有非常好的准确性，同时受到模型大小形式的资源约束。
2020-10-30 cs.AI cs.LG
Efficient Pareto Manifold Learning with Low-Rank Structure
The Hong Kong University of Science and Technology（香港科技大学）
针对多任务学习中连续帕累托前沿近似方法在任务数庞大时的可扩展性问题，提出结合主网络与低秩矩阵并引入正则化的新方法，高效学习帕累托流形，显著减少参数并提升性能。
2024-07-30 cs.LG
Crystal structure prediction using neural network potential and age-fitness Pareto genetic algorithm
University of South Carolina（南卡罗来纳大学）
本文提出ParetoCSP算法，通过将基因型年龄作为独立优化标准增强NSGA-III，并结合M3GNet通用IAP指导多目标遗传算法搜索，在55个基准结构上以2.562倍优势超越GN-OA，显著提升了晶体结构预测的能力。
2023-09-13 cond-mat.mtrl-sci cs.LG cs.NE
End-to-End Pareto Set Prediction with Graph Neural Networks for Multi-objective Facility Location
Bielefeld University（比勒费尔德大学）；Guangdong University of Foreign Studies（广东外语外贸大学）
设施选址问题是一类典型的NP-hard组合优化问题，广泛存在于供应链和物流中。许多数学和启发式算法已被开发用于优化FLP。在实际应用中，除了运输成本之外，通常还有多个相互冲突的目标。因此，希望设计的算法，找到一组帕累托解决方案，有效地没有巨大的搜索成本。在本文中，我们考虑的多目标设施选址问题（MO-FLP），同时最小化总成本和最大化系统的可靠性。我们开发了一种基于学习的方法来预测给定问题的整个Pareto集的分布概率。为此，MO-FLP被建模为一个二分图优化问题，并构造了两个图神经网络来学习节点和边的隐式图表示。然后将网络输出转换为Pareto集的概率分布，从中可以非自回归地采样一组非支配解。在不同规模的MO-FLP实例上的实验结果表明，该方法在求解质量上与一种广泛使用的多目标进化算法相当，同时显著降低了搜索的计算代价.
2022-10-27 cs.LG cs.NE
Comparative Study of Canvas- and Coordinate-Based Geometry-Conditioned Neural Networks for Real-Time Prediction of Indoor Environments with Varying Room Dimensions
Leibniz University Hannover（汉诺威莱布尼茨大学）
本研究对比CaNN与CoNN两种几何条件神经网络，采用U-Net自编码器预测室内气流与温度场，经简化房间基准评估，CaNN与CFD结果一致性更高，可支持性能驱动型建筑设计。
2026-10-14 cs.AI cs.LG
Rethinking Pareto Frontier for Performance Evaluation of Deep Neural Networks
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Polytechnique Montreal（蒙特利尔综合理工学院）
深度学习模型的性能优化可以手动进行，也可以通过自动架构搜索进行，或者两者结合进行。另一方面，它们的性能在很大程度上取决于目标硬件以及模型训练的成功程度。我们建议使用多维帕累托前沿来重新定义候选深度学习模型的效率度量，其中训练成本、推理延迟和准确性等几个变量在定义主导模型时发挥相对作用。此外，还引入了多维帕累托前沿的随机版本，以减轻不同实验设置中深度学习模型的准确性、延迟和吞吐量的不确定性。这两种互补的方法可以结合起来执行深度学习模型的客观基准测试。我们提出的方法被应用于广泛的深度图像分类模型上ImageNet数据训练。我们的方法将竞争变量与随机性质结合在一个单一的相对效率测度中。这允许对在不同硬件上有效运行的深度学习模型进行排名，并客观地将推理效率与训练效率相结合。
2022-09-22 cs.LG cs.NE
Data vs. Physics: The Apparent Pareto Front of Physics-Informed Neural Networks
Know-Center GmbH（Know-Center有限公司）；LEC GmbH（LEC有限公司）
本文研究物理系统参数如何通过缩放损失残差影响PINNs的多目标优化，提出利用损失权重补偿参数缩放并在表观帕累托前沿上选择物理有效解，从而改善训练效果。
2024-06-10 cs.LG
Learning Pareto Stationary Fronts via Single-Pass Backpropagation
Saarland University（萨尔兰大学）；Universidade Estadual de Campinas（坎皮纳斯州立大学）
MOSEL框架通过将后验多目标优化转化为Stackelberg博弈，以单次反向传播实现帕累托驻留前沿的高效学习，在公平性-准确性等冲突场景中表现优异，并提升多任务学习效果。
2026-10-28 cs.LG
A Hybrid 2-stage Neural Optimization for Pareto Front Extraction
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Oden Institute for Computational Engineering and Sciences（奥登计算工程与科学研究所）
分类、推荐和排名问题通常涉及具有附加约束的竞争目标（例如，以满足公平性或多样性标准）。这样的优化问题是相当具有挑战性的，通常涉及非凸函数以及在平衡权衡中考虑用户偏好。帕累托解代表了联合优化多个竞争目标的最优边界。经常使用的线性标量化策略的一个主要障碍是，由此产生的优化问题可能并不总是收敛到全局最优。此外，这样的方法每次运行仅返回一个解点。帕累托解集是针对不同权衡选择的多次运行中所有此类全局最优解的子集。因此，帕累托前沿只能通过线性标量化问题的多次运行来保证，其中所有运行都收敛到它们各自的全局最优值。因此，为实际问题提取帕累托前沿在计算上是难以处理的，具有大量的计算开销、有限的可扩展性和降低的准确性。我们提出了一个强大的，低成本的，两阶段的，混合神经帕累托优化方法，是准确的和规模（计算空间和时间）与数据维度，以及功能和约束的数量。第一阶段（神经网络）有效地提取一个弱的帕累托前沿，使用弗里茨-约翰条件作为约束，没有假设的凸性的目标或约束。第二阶段（有效帕累托过滤器）提取强帕累托最优子集给定的弱前从阶段1。Fritz-John条件为我们提供了真实和网络提取的弱Pareto前沿之间的近似误差的理论界。数值实验表明，一组典型的基准问题和公平性优化任务从以前的作品的准确性和效率。
2021-02-13 cs.LG math.OC
Pareto GAN: Extending the Representational Power of GANs to Heavy-Tailed Distributions
Perspecta Labs（Perspecta实验室）；Carnegie Mellon University（卡内基梅隆大学）；Army Research Lab（陆军研究实验室）；Raytheon Technologies（雷神技术公司）
生成对抗网络（GANs）通常被称为“通用分布学习器”，但它们可以代表和学习什么样的分布仍然是一个悬而未决的问题。重尾分布在金融风险评估、物理学和流行病学等许多不同领域都很普遍。我们观察到现有的GAN架构在匹配重尾分布的渐近行为方面做得很差，我们发现这个问题源于它们的构建。此外，当面对无穷大的矩和离群点之间的大距离时，这是重尾分布的特征，常见的损失函数产生不稳定或接近零的梯度。我们用Pareto GAN来解决这些问题。Pareto GAN利用极值理论和神经网络的功能特性来学习与特征的边缘分布的渐近行为相匹配的分布。我们确定了标准损失函数的问题，并提出了使用替代度量空间，使稳定和有效的学习。最后，我们评估我们提出的方法在各种重尾数据集。
2021-01-22 cs.LG
The Operable Pareto Front: Distilling Offline Search into Run-Time Control for Multi-Objective UAV Edge-Computing Scheduling
Tianjin University（天津大学）；Shandong Agriculture and Engineering University（山东农业工程学院）
针对多目标无人机边缘计算调度，提出偏好条件决策变换器PrefDT，将离线搜索提炼为运行时控制，一次训练即可输出帕累托前沿任意点，并在仿真中优于26种方法变体。
2026-09-17 cs.LG cs.NI
Pareto Front Shape-Agnostic Pareto Set Learning in Multi-Objective Optimization
Southern University of Science and Technology（南方科技大学）；The University of Hong Kong（香港大学）
针对现有帕累托集学习方法需帕累托前沿形状先验的问题，提出将帕累托集学习视为分布变换问题的GPSL方法，通过最大化超体积训练神经网络实现分布变换，无需先验即可处理任意形状帕累托前沿，性能优于现有算法。
2024-08-11 cs.LG math.OC
Multi-task Self-supervised Graph Neural Networks Enable Stronger Task Generalization
University of Notre Dame（圣母大学）；Snap Inc.（色拉布公司）；Brandeis University（布兰迪斯大学）
图神经网络（GNNs）的自监督学习（Self-supervised learning，SSL）由于能够在不需要代价高昂的标签信息的情况下学习高性能的节点嵌入，近年来引起了图机器学习界越来越多的关注。GNN的传统SSL框架的一个弱点是它们通过单一的哲学进行学习，例如互信息最大化或生成重建。当应用于各种下游任务时，这些框架很少对每个任务都表现得同样好，因为一种哲学可能无法涵盖所有任务所需的广泛知识。为了增强跨任务的任务泛化，作为探索基本图模型的重要第一步，我们引入了PARETOGNN，这是一个用于图上节点表示学习的多任务SSL框架。具体来说，PARETOGNN是由观察多种哲学的多种借口任务自我监督的。为了调和不同的哲学，我们探索了一种多梯度下降算法，使PARETOGNN积极地从每个借口任务中学习，同时最大限度地减少潜在的冲突。我们对四个下游任务进行了全面的实验（即，节点分类、节点聚类、链接预测和分区预测），并且我们的建议在11个广泛采用的基准数据集上实现了跨任务的最佳总体性能。此外，我们观察到，从多个哲学学习不仅提高了任务的泛化能力，而且提高了单个任务的性能，这表明PARETOGNN通过从不同哲学学习到的不相交但互补的知识实现了更好的任务泛化。我们的代码可在https://github.com/jumxglhf/ParetoGNN上公开获取。
2023-02-27 cs.LG
Pareto Manifold Learning: Tackling multiple tasks via ensembles of single-task models
University of Geneva（日内瓦大学）
针对多任务学习中任务竞争难获全局最优解的问题，提出帕累托流形学习这一权重空间集成方法，单次训练即可生成连续帕累托前沿，在多类基准上性能优于现有方法。
2023-06-14 cs.LG
Pareto Front Approximation for Multi-Objective Session-Based Recommender Systems
OTTO (GmbH & Co KG)（奥托（有限两合公司））
提出 MultiTRON 方法，利用 transformer 神经网络将 Pareto 前沿近似技术应用于多目标会话推荐系统，通过训练偏好向量优化点击率与转化率等指标的权衡，使单一模型能灵活满足不同业务需求。
2025-03-30 cs.AI cs.IR cs.LG
UMOEA/D: A Multiobjective Evolutionary Algorithm for Uniform Pareto Objectives based on Decomposition
City University of Hong Kong（香港城市大学）；Duke University（杜克大学）；Hong Kong Baptist University（香港浸会大学）
本文提出UMOEA/D算法，通过神经网络优化Pareto前沿上的最大最小距离，首次定义并实现MOO问题的均匀性，生成多样且具代表性的均匀Pareto目标，性能超越现有方法。
2024-02-14 cs.LG
Optimizing Unlicensed Band Spectrum Sharing With Subspace-Based Pareto Tracing
National Institute of Standards and Technology（美国国家标准与技术研究院）
为了满足即将推出和部署的无线网络不断增长的数据吞吐量需求，长期演进许可辅助接入（LTE-LAA）等新无线技术在共享和未授权频段中运行。然而，LAA网络必须与现有IEEE 802.11 Wi-Fi系统共存。我们考虑多个LAA和Wi-Fi链路共享未授权频带的共存场景。我们的目标是通过降维和多标准优化同时最大化这些网络的关键性能指标（KPI）来改善这种共存。这些KPI是作为介质访问控制协议和物理层参数的函数的网络吞吐量。我们通过近似活动子空间来识别优化标准中的低维结构，即，同时最大化KPI的参数的几个线性组合。我们利用一个聚合的低维子空间参数化的近似活动子空间的吞吐量，以促进多标准优化。低维子空间近似告知可视化，揭示了混合活动坐标上的凸KPI，从而导致接近最优解的解析帕累托轨迹。
2021-02-24 cs.LG eess.SP
Approximating Pareto Frontiers in Stochastic Multi-Objective Optimization via Hashing and Randomization
Purdue University（普渡大学）；University of Texas at El Paso（德克萨斯大学埃尔帕索分校）
本文提出XOR-SMOO算法，通过多项式对数次调用SAT oracle，在概率1-δ下获得γ-近似帕累托前沿，提升随机多目标优化求解的实用性和可靠性。
2026-04-01 cs.AI cs.LG cs.LO
Using Deep Learning to Predict Beam-Tunable Pareto Optimal Dose Distribution for Intensity Modulated Radiation Therapy
UT Southwestern Medical Center（UT西南医学中心）
我们建议开发深度学习模型，通过使用任何给定的射束角度集以及患者解剖结构作为训练深度神经网络的输入，来预测帕累托最优剂量分布。我们实现并比较了两个深度学习网络，它们使用两种不同的波束配置模式进行预测。我们为70名前列腺癌患者制定了帕累托最优计划。我们使用注量图优化生成500个IMRT计划，对每个患者的帕累托曲面进行采样，总共35，000个计划。我们研究和比较了两种不同的模型，模型I和模型II。模型I直接使用波束角作为二进制向量作为网络的第二输入。模型II将射束角度转换为与PTV共形的射束剂量。我们的深度学习模型预测的体素级剂量分布与地面真实剂量分布精确匹配。定量，模型I预测误差为0.043（确认），0.043模型Ⅱ的平均值为0.076，而模型Ⅱ的平均值为0.327（R50）、2.80%（D95）、3.90%（D98）、0.6%（D50）、1.10%（D2（确证）、0.058（均一性）、0.626（R50）、7.10%（D95）、6.50%（D98）、8.40%（D50）、6.30%（D2）。使用我们的模型的治疗规划者将能够使用深度学习来控制PTV和OAR权重之间的权衡，以及实时的波束数量和配置。我们的剂量预测方法为建立自动IMRT治疗计划提供了垫脚石。
2020-06-19 cs.LG physics.med-ph
Pareto Low-Rank Adapters: Efficient Multi-Task Learning with Preferences
EPFL（洛桑联邦理工学院）；University of Geneva（日内瓦大学）；Meta FAIR
本文提出PaLoRA，通过低秩适配器和确定性偏好采样调度，实现参数高效的帕累托前沿学习，在多任务学习中优于现有方法并大幅降低内存开销。
2025-02-26 cs.LG
