Efficient Fairness-Performance Pareto Front Computation
Technion - Israel Institute of Technology（技术离子-以色列理工学院）；NVIDIA（英伟达）
本文提出一种无需训练复杂表示模型即可高效计算公平性-性能最优帕累托前沿的方法，利用结构性质简化为离散问题，并通过凹凸规划求解，可作为表示学习算法的基准。
2025-10-24 cs.LG stat.ML
Fairness-informed Pareto Optimization : An Efficient Bilevel Framework
Lab. Jean Alexandre Dieudonn\'e, CNRS, Nice, 06000, France；Lab. Jean Alexandre Dieudonn\'e, Universit\'e C\ o te d'Azur, Nice, 06000, France
本文提出BADR框架，通过双层自适应重标定方法实现公平性引导的帕累托优化，提供高效算法和开源工具，验证其在公平性提升上的优势。
2026-01-22 cs.LG math.OC stat.ML
How to Find the Exact Pareto Front for Multi-Objective MDPs?
The Ohio State University（俄亥俄州立大学）；University of Kentucky（肯塔基大学）
针对多目标马尔可夫决策过程（MO-MDPs）难以找到精确帕累托前沿的问题，本文揭示其几何结构性质，提出仅需一次单目标MDP求解并遍历边的高效算法，大幅降低复杂度。
2025-02-10 cs.LG stat.ML
APFEx: Adaptive Pareto Front Explorer for Intersectional Fairness
Indian Statistical Institute, Kolkata（印度统计研究院，科利卡特）
APFEx首次将交叉公平性建模为敏感属性笛卡尔积上的联合优化问题，通过自适应多目标优化器、可微公平性度量和理论收敛保证，在四个数据集上实现了减少公平性违规并保持竞争力的准确率。
2025-09-23 cs.LG
Pushing the Efficiency-Regret Pareto Frontier for Online Learning of Portfolios and Quantum States
Google Research（谷歌研究院）
我们重新审视经典的在线投资组合选择问题。人们普遍认为，计算复杂性和遗憾之间的权衡是不可避免的，与封面的通用Portfolio算法，B-BAYES和ADA-BARRONS目前构成其最先进的帕累托前沿。在本文中，我们提出了第一个有效的算法，BISONS，获得多对数遗憾的内存和每一步的运行时间的要求是多项式的维度，取代ADA-BARRONS从帕累托前沿。此外，我们解决了COLT 2020公开问题，通过显示具有对数屏障正则化的某个Follow-The-Regularized-Leader算法对维度的依赖性比以前所描述的要大得多。因此，我们排除了这个算法作为帕累托边界的候选者。我们还将我们的算法和分析扩展到比在线投资组合选择更一般的问题，即具有对数损失的量子态的在线学习。这种算法，称为薛定谔的BISONS，是第一个有效的算法与多对数遗憾这个更一般的问题。
2022-02-06 cs.LG stat.ML
Learning the Pareto Front Using Bootstrapped Observation Samples
Columbia University（哥伦比亚大学）
针对线性老虎机中的帕累托前沿识别问题，提出一种样本复杂度最优且遗憾可控的算法，其核心在于沿多方向更新参数估计并重用探索样本，实验验证了其有效性。
2024-05-22 cs.LG stat.ML
Fairness vs Performance: Characterizing the Pareto Frontier of Algorithmic Decision Systems
Zurich University of Applied Sciences / University of Zurich（应用科学大学苏黎世分校 / 苏黎世大学）；Zurich University of Applied Sciences（应用科学大学苏黎世分校）
研究探讨算法决策系统中公平性与性能的权衡，通过多目标优化分析决策者效用与群体公平性，揭示帕累托前沿由确定性阈值规则构成，扩展了现有公平性约束下的最优定理。
2026-05-11 cs.AI cs.CY cs.LG
Sequential Learning of the Pareto Front for Multi-objective Bandits
ENS Lyon（里昂高等师范学院）；CWI（荷兰数学和计算机科学研究学会）；Twente University（特文特大学）
研究多目标多臂老虎机中Pareto前沿的序贯学习问题，提出在风险δ较小时达到最优样本复杂度的高效算法，每轮运行时间为O(Kp^d)。
2025-01-29 cs.LG stat.ML
Accuracy and Fairness Trade-offs in Machine Learning: A Stochastic Multi-Objective Approach
Lehigh University（理海大学）；University of Coimbra（科英布拉大学）
在将机器学习应用于现实生活中的决策系统中，例如，信用评分和刑事司法，预测结果可能会歧视具有敏感属性的人，导致不公平。公平机器学习中常用的策略是将公平性作为预测损失最小化的约束或惩罚项，这最终限制了提供给决策者的信息。在本文中，我们介绍了一种新的方法来处理公平性，制定一个随机多目标优化问题，相应的帕累托前沿唯一和全面定义的准确性，公平性权衡。然后，我们应用了随机近似型方法，有效地获得良好的传播和准确的帕累托前沿，这样做，我们可以处理训练数据到达流的方式。
2022-03-18 cs.LG stat.ML
Data-Driven Preference Sampling for Pareto Front Learning
Southern University of Science and Technology（南方科技大学）；Guangdong University of Technology（广东工业大学）
针对固定偏好向量采样分布无法适配多样帕累托前沿的问题，提出数据驱动采样框架，利用目标后验信息调整采样分布参数，采用混合Dirichlet分布提升不连通前沿性能，经实验验证优于现有最优算法。
2024-04-12 cs.LG
Controllable Pareto Trade-off between Fairness and Accuracy
University of Southern California（南加州大学）；University of Technology Sydney（悉尼技术大学）；University of Maryland, College Park（马里兰大学学院市分校）
提出CPT方法，利用多目标优化和梯度稳定技术，实现公平性与准确性之间可控的Pareto权衡。
2025-09-17 cs.LG
A Theoretical Approach to Characterize the Accuracy-Fairness Trade-off Pareto Frontier
Shanghai Jiao Tong University（上海交通大学）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）；University of Georgia（佐治亚大学）；New Jersey Institute of Technology（新泽西理工学院）
本文提出理论框架刻画准确率-公平性权衡的 Pareto 前沿，证明权衡存在性并分四类分析必要条件，通过合成数据实验揭示前沿连续性、准确率急剧下降及两步消除权衡的方法。
2023-10-19 cs.CY cs.LG
Pareto Pairwise Ranking for Fairness Enhancement of Recommender Systems
学习排序自2010年左右引入以来，是一种有效的推荐方式。著名的算法，如贝叶斯个性化排名和协作少即是多过滤，在学术界和工业界都留下了深刻的影响。然而，大多数学习排序方法专注于提高技术准确性指标，如AUC，MRR和NDCG。推荐系统的其他评价指标，如公平性，直到最近几年才在很大程度上被忽视。本文提出了一种新的学习排序算法Pareto Pairwise Ranking。我们的灵感来自贝叶斯个性化排名和幂律分布的想法。我们表明，我们的算法是有竞争力的技术精度指标评估时，与其他算法。更重要的是，在我们的实验部分中，我们证明了Pareto Pairwise Ranking是最公平的算法，与其他9个当代算法相比。
2022-12-06 cs.AI cs.IR cs.LG
Learning with Impartiality to Walk on the Pareto Frontier of Fairness, Privacy, and Utility
University of Toronto（多伦多大学）；Vector Institute（向量研究所）
部署机器学习（ML）模型通常需要公平性和隐私保证。这两个目标都提出了独特的权衡与效用（例如，模型的准确性。然而，公平、隐私和效用之间的相互作用还不太清楚。因此，通常只有一个目标被优化，而其他目标则被调整为超参数。因为它们隐含地优先考虑某些目标，这样的设计以有害的、不可检测的方式使模型产生偏差。为了解决这个问题，我们采用公正性作为原则：ML管道的设计不应该偏向于一个目标。我们提出了公平指定的模型，它为我们提供了准确的帕累托边界，显示目标之间的内在权衡。扩展了两个用于隐私保护学习的规范ML框架，我们提供了两种方法（FairDP-SGD和FairPATE）来训练公平指定的模型并恢复Pareto边界。通过理论隐私分析和全面的实证研究，我们提供了一个答案的问题，公平缓解应该集成在一个隐私感知ML管道。
2023-02-17 cs.AI cs.CY cs.LG
Variational Model Merging for Pareto Front Estimation in Multitask Finetuning
RIKEN Center for AI Project, Japan（日本人工智能研究中心（AI项目））；Ubiquitous Knowledge Processing Lab (UKP Lab), Department of Computer Science, Technical University of Darmstadt and National Research Center for Applied Cybersecurity ATHENE, Germany（大众知识处理实验室（UKP实验室），计算机科学系，达姆施塔特技术大学和应用网络安全国家研究中心ATHENE，德国）
提出变分模型合并方法，通过贝叶斯后验合并直接改进帕累托前沿质量，理论上证明更灵活的后验分布能获得更好的帕累托前沿估计，并在视觉和语言模型上验证。
2026-06-24 cs.AI cs.LG stat.ML
Enhancing Fairness and Performance in Machine Learning Models: A Multi-Task Learning Approach with Monte-Carlo Dropout and Pareto Optimality
Rice University（莱斯大学）
针对机器学习中由数据与算法引发的偏差问题，提出结合MC Dropout的多任务学习框架，借助帕累托最优平衡公平性与性能，在多数据集上验证有效并提升了模型可解释性。
2024-10-06 cs.CY cs.LG
Budgeted Multi-Objective Optimization with a Focus on the Central Part of the Pareto Front -- Extended Version
Groupe PSA（标致雪铁龙集团）；CNRS（法国国家科学研究中心）；École Nationale Supérieure des Mines de Saint-Étienne（圣艾蒂安国立高等矿业学校）
优化非线性系统涉及昂贵的计算机实验方面的冲突的目标是一个共同的挑战。当实验的数量受到严格限制和/或当目标的数量增加时，发现整个帕累托最优解集是遥不可及的，即使是基于代理的方法：所提出的解决方案是次优的或不覆盖前端。由于不妥协的最优解通常在应用程序中没有什么意义，这项工作限制了搜索的解决方案，接近帕累托前中心。文章首先描述了这个中心，它是为任何类型的前线定义的。接下来，提出了一种贝叶斯多目标优化方法，用于指导搜索。针对帕累托前沿的一个子集，可以提高解决方案的最优性，并更好地覆盖这一区域，这是我们的主要关注点。描述了一种检测收敛到中心的准则。如果该标准被触发，则帕累托前沿的加宽的中心部分被作为目标，使得在剩余预算内预测到足够准确的收敛。数值实验表明，所得到的算法，C-EHI，更好地定位帕累托前的中心部分相比，国家的最先进的贝叶斯算法。
2019-07-15 cs.LG math.OC stat.ML
Multi-Objective Multi-Agent Bandits: From Learning Efficiency to Fairness Optimization
University of Massachusetts Amherst（马萨诸塞大学阿姆赫斯特分校）
本文研究了在随机奖励下的多目标多智能体老虎机问题，提出基于Pareto regret的高效学习算法和基于社会福利的公平学习方法，证明了算法在效率和公平性上的性能。
2026-05-07 cs.LG
Pareto Front Shape-Agnostic Pareto Set Learning in Multi-Objective Optimization
Southern University of Science and Technology（南方科技大学）；The University of Hong Kong（香港大学）
针对现有帕累托集学习方法需帕累托前沿形状先验的问题，提出将帕累托集学习视为分布变换问题的GPSL方法，通过最大化超体积训练神经网络实现分布变换，无需先验即可处理任意形状帕累托前沿，性能优于现有算法。
2024-08-11 cs.LG math.OC
ParetoTransport: Generative Optimization by Mass Transport Toward The Pareto Front
LIT AI Lab（LIT人工智能实验室）；Institute for Machine Learning（机器学习研究所）；JKU Linz（约翰开普勒大学林茨分校）
提出ParetoTransport，一种免训练的流匹配引导方法，通过Wasserstein匹配迭代输运离线分布至帕累托前沿，控制分布位移与质量分配，在标准离线多目标优化基准上取得最先进性能。
2026-09-09 cs.LG
Learning the Pareto Front with Hypernetworks
Bar-Ilan University（巴伊兰大学）；NVIDIA（英伟达）
多目标优化（MOO）问题是机器学习中普遍存在的问题。这些问题有一组最优解，称为帕累托前沿，其中前沿上的每个点代表可能冲突的目标之间的不同权衡。最近的MOO方法可以在损失空间中瞄准特定的期望射线，然而，大多数方法仍然面临两个严重的限制：（i）必须为前面的每个点训练单独的模型;以及（ii）在优化过程之前必须知道确切的权衡。在这里，我们解决了学习整个帕累托前沿的问题，并能够在训练后在前沿上选择所需的操作点。我们称之为帕累托前沿学习（Pareto Front Learning，PFL）。我们描述了一种使用超网络实现的PFL方法，我们将其称为帕累托超网络（PHN）。PHN使用单个超网络同时学习整个帕累托前沿，该超网络接收所需的偏好向量作为输入，并返回帕累托最优模型，其损失向量在所需的射线中。与训练多个模型相比，统一模型具有运行时效率，并且可以推广到训练期间未使用的新操作点。我们评估我们的方法在广泛的问题，从多任务回归和分类公平。PHN学习整个帕累托前沿的时间与学习前沿上的单个点的时间大致相同，并且同时达到更好的解集。此外，我们还证明了PHN可以扩展以生成像ResNet 18这样的大型模型。PFL为新的应用程序打开了大门，在新的应用程序中，模型是根据仅在运行时间可用的首选项来选择的。
2021-04-26 cs.LG
Scalable Pareto Front Approximation for Deep Multi-Objective Learning
University of Freiburg（弗赖堡大学）
多目标优化（MOO）是深度学习的一个普遍挑战，然而，对于真正的深度神经网络，还没有可扩展的MOO解决方案。以前的工作要么需要为帕累托前沿的每个点优化一个新的网络，要么通过使用以可修改的偏好为条件的超网络来对可训练参数的数量产生大量开销。在本文中，我们建议通过将这些偏好扩展到特征空间来直接对网络进行调节。此外，我们确保一个良好的传播帕累托前沿的惩罚的解决方案，以保持一个小的角度的偏好向量。在一系列的实验中，我们证明了我们的帕累托前沿达到了最先进的质量，尽管计算速度明显加快。此外，我们展示了可扩展性，因为我们的方法与EfficientNet网络在CelebA数据集上近似于完整的Pareto前沿，与简单的单目标优化相比，训练时间开销仅为7%。我们在https://github.com/ruchtem/cosmos上公开发布我们的代码。
2021-10-14 cs.LG
Adaptive Sampling of Pareto Frontiers with Binary Constraints Using Regression and Classification
Fraunhofer Center for Machine Learning（弗劳恩霍夫机器学习中心）；Fraunhofer-Institut für Techno- und Wirtschaftsmathematik ITWM（弗劳恩霍夫技术与经济数学研究所ITWM）
针对二元约束的黑箱多目标优化问题，提出了一种基于贝叶斯优化的自适应优化算法。我们的方法是基于概率回归和分类模型，它作为一个替代的优化目标，并允许我们建议在每次迭代中一次多个设计点。所提出的采集功能直观易懂，并且可以根据手头问题的需求进行调整。我们还提出了一种新的椭球截断方法，以一种简单的方式加速具有正态概率密度的回归模型的预期超体积计算。我们基准我们的方法与进化算法在多个测试问题。
2021-02-26 cs.LG stat.ML
Multi-Objective Learning to Predict Pareto Fronts Using Hypervolume Maximization
Centrum Wiskunde & Informatica（荷兰国家数学与计算机科学研究所）；Leiden University Medical Center（莱顿大学医学中心）；Delft University of Technology（代尔夫特理工大学）
现实世界的问题往往是多目标的决策者无法指定一个先验的权衡冲突的目标之间是可取的。直觉上，在这种情况下构建机器学习解决方案需要提供多个预测，这些预测跨越并均匀覆盖所有最佳权衡解决方案的帕累托前沿。提出了一种新的多目标训练神经网络的方法，以逼近推理过程中的Pareto前沿。在我们的方法中，神经网络使用动态损失函数进行多目标训练，其中每个网络的损失（对应于多个目标）由其超体积最大化梯度加权。我们讨论并说明了为什么近似帕累托前沿的训练过程需要在单个训练样本的前沿进行优化，而不仅仅是在平均损失的前沿。三个多目标问题的实验表明，我们的方法返回的输出是很好地分布在不同的权衡近似帕累托前沿，而不需要事先指定的权衡向量。此外，与最先进的方法的比较结果突出了我们提出的方法的附加值，特别是在不对称的帕累托前沿。
2021-10-19 cs.LG
Random Pareto front surfaces
Imperial College London（帝国理工学院）；BASF SE（巴斯夫公司）
本研究提出用极坐标下的标量长度函数参数化Pareto前沿曲面，构建随机Pareto前沿的理论与统计量，支持实验设计中的不确定性量化与决策，可应用于多元极值理论并经真实数据验证。
2024-06-21 cs.LG math.OC stat.ME
Leveling Down in Computer Vision: Pareto Inefficiencies in Fair Deep Classifiers
Amazon Web Services（亚马逊云科技）；MPI-IS（马克斯·普朗克智能系统研究所）；University of Tübingen（图宾根大学）；Rice University（莱斯大学）
算法公平性通常是在权衡方面被激励的，在权衡中，整体性能被降低，以便改善对处于不利地位的群体的性能，否则算法将不太准确。与此相反，我们发现，将现有的公平性方法应用于计算机视觉，通过降低所有组中分类器的性能来提高公平性（其中表现最好的组的性能下降幅度更大）。将分类的偏差方差分解扩展到公平性，我们从理论上解释了为什么大多数为低容量模型设计的公平分类器不应该用于涉及高容量模型的设置中，这是计算机视觉常见的情况。我们证实了这一分析与广泛的实验支持，表明在计算机视觉中使用的许多公平性算法也降低了最弱势群体的性能。基于这些见解，我们提出了一种自适应增强策略，独特的，所有的方法测试，提高性能的弱势群体。
2022-03-31 cs.CV cs.LG
Understanding and Improving Fairness-Accuracy Trade-offs in Multi-Task Learning
Google Research（谷歌研究院）
随着多任务模型在更广泛的机器学习应用中越来越受欢迎，从业者理解与这些模型相关的公平性含义变得越来越重要。大多数现有的公平性文献都专注于更公平地学习单个任务，而ML公平性如何在联合学习环境中与多个任务相互作用则在很大程度上未得到充分探索。在本文中，我们关注的是群体公平性（例如，平等的机会，平等的赔率）作为ML公平概念在多任务场景中发挥作用。在多任务学习中，多个任务被联合学习，以利用任务相关性来实现更有效的归纳转移。这呈现了多维帕累托边界（1）关于每个任务的组公平性和准确性之间的权衡，以及（2）跨多个任务的权衡。我们的目标是提供一个更深入的了解如何组公平性与准确性在多任务学习，我们表明，传统的方法，主要集中在优化帕累托边界的多任务准确性可能不会表现良好的公平性目标。我们提出了一组新的指标，以更好地捕捉多维帕累托边界的公平性，准确性权衡独特的多任务学习设置。我们进一步提出了多任务感知公平性（MTA-F）方法来提高多任务学习的公平性。几个真实世界的数据集上的实验证明了我们所提出的方法的有效性。
2021-06-04 cs.LG
Improving Pareto Front Learning via Multi-Sample Hypernetworks
College of Engineering and Computer Science, VinUniversity（VinUniversity工程与计算机科学学院）；School of Applied Mathematics and Informatics, Hanoi University of Science and Technology（河内科技大学应用数学与信息学院）
针对现有帕累托前沿学习方法忽略解间关联、前沿质量受限的问题，提出基于超网络与超体积指标最大化的PHN-HVI框架，在多目标优化任务上性能显著优于基线。
2023-04-28 cs.LG
Learning Heterogeneous Performance-Fairness Trade-offs in Federated Learning
Department of Computer Science and Engineering and the Research Institute of Trustworthy Autonomous Systems at Southern University of Science and Technology（计算机科学与工程系和可信自主系统研究 institute at 南方科技大学）
为解决联邦学习中均匀偏好采样忽视客户端异构性及局部与全局 Pareto 前沿差距的问题，提出 HetPFL 框架，通过自适应偏好采样和偏好感知超网络融合有效学习局部与全局 Pareto 前沿，实现线性收敛并显著优于基线。
2025-04-30 cs.AI cs.LG
Divide and Conquer: Provably Unveiling the Pareto Front with Multi-Objective Reinforcement Learning
Vrije Universiteit Brussel（布鲁塞尔自由大学）；Université de Montréal（蒙特利尔大学）；Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；University of Galway（戈尔韦大学）；City of Amsterdam（阿姆斯特丹市）；Utrecht University（乌得勒支大学）
本文提出迭代帕累托参照优化（IPRO），将多目标强化学习中帕累托前沿的求解分解为一系列受约束单目标问题，在保证收敛的同时给出未发现解距离的上界，并在实验中取得与或优于现有方法的性能。
2025-02-06 cs.LG
Post Hoc Extraction of Pareto Fronts for Continuous Control
The Collaborative Robotics and Intelligent Systems (CoRIS) Institute（协作机器人与智能系统研究所）
MAPEX是一种离线多目标强化学习方法，通过重用预训练策略和回放缓冲区，以低样本成本提取帕累托前沿，平衡多个目标。
2026-03-03 cs.LG
The Fairness-Quality Trade-off in Clustering
Columbia University（哥伦比亚大学）；Max Planck Institute for Intelligent Systems Tübingen（图宾根马克斯·普朗克智能系统研究所）
针对聚类中公平性与质量的权衡问题鲜有研究的现状，提出可追踪两类通用目标下帕累托前沿的算法，证明其最坏情况时间复杂度的必然性，同时给出聚类中心固定时针对特定公平目标的多项式时间算法。
2024-08-19 cs.CY cs.LG
Pareto-depth for Multiple-query Image Retrieval
University of Michigan, Ann Arbor（密歇根大学安娜堡分校）
大多数基于内容的图像检索系统要么考虑单个查询，要么考虑包括相同对象或表示相同语义信息的多个查询。在本文中，我们考虑基于内容的图像检索问题的多个查询图像对应于不同的图像语义。提出了一种新的多查询信息检索算法，该算法结合了Pareto前沿方法（PFM）和有效流形排序（EMR）。我们表明，我们提出的算法优于最先进的多查询检索算法在现实世界的图像数据库。我们把这种性能的改善归因于Pareto前沿的渐近性质，并证明了一个理论结果，表征了前沿的渐近性质。
2014-02-21 cs.IR cs.LG stat.ML
Towards Efficient Pareto-optimal Utility-Fairness between Groups in Repeated Rankings
College of Engineering & Computer Science, VinUniversity（VinUniversity工程与计算机科学学院）；University of Engineering and Technology, Vietnam National University（越南国家大学工程技术大学）
本文针对重复排序中效用与群体公平性的帕累托最优平衡问题，提出基于Expohedron和外接球面松弛的高效求解方法，显著降低计算复杂度并逼近真实帕累托曲线。
2024-02-22 cs.IR cs.LG
Voronoi-grid-based Pareto Front Learning and Its Application to Collaborative Federated Learning
Westlake University（西湖大学）；Nanyang Technological University（南洋理工大学）
针对现有帕累托前沿学习在高维采样和凸前沿覆盖上的不足，提出PHN-HVVS框架，利用Voronoi网格划分和遗传算法，结合新损失函数最大化HV指标，显著提升多目标优化及联邦学习中的帕累托前沿生成质量。
2025-05-27 cs.AI cs.LG
A Hybrid 2-stage Neural Optimization for Pareto Front Extraction
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Oden Institute for Computational Engineering and Sciences（奥登计算工程与科学研究所）
分类、推荐和排名问题通常涉及具有附加约束的竞争目标（例如，以满足公平性或多样性标准）。这样的优化问题是相当具有挑战性的，通常涉及非凸函数以及在平衡权衡中考虑用户偏好。帕累托解代表了联合优化多个竞争目标的最优边界。经常使用的线性标量化策略的一个主要障碍是，由此产生的优化问题可能并不总是收敛到全局最优。此外，这样的方法每次运行仅返回一个解点。帕累托解集是针对不同权衡选择的多次运行中所有此类全局最优解的子集。因此，帕累托前沿只能通过线性标量化问题的多次运行来保证，其中所有运行都收敛到它们各自的全局最优值。因此，为实际问题提取帕累托前沿在计算上是难以处理的，具有大量的计算开销、有限的可扩展性和降低的准确性。我们提出了一个强大的，低成本的，两阶段的，混合神经帕累托优化方法，是准确的和规模（计算空间和时间）与数据维度，以及功能和约束的数量。第一阶段（神经网络）有效地提取一个弱的帕累托前沿，使用弗里茨-约翰条件作为约束，没有假设的凸性的目标或约束。第二阶段（有效帕累托过滤器）提取强帕累托最优子集给定的弱前从阶段1。Fritz-John条件为我们提供了真实和网络提取的弱Pareto前沿之间的近似误差的理论界。数值实验表明，一组典型的基准问题和公平性优化任务从以前的作品的准确性和效率。
2021-02-13 cs.LG math.OC
Trading Utility for Dynamic Fairness in Multiple Resource Division with Sequential Demand
Computer Science Dept. University of Illinois Chicago（伊利诺伊大学芝加哥分校计算机科学系）
提出一种神经分配机制，通过多目标优化在顺序分配中平衡公平与效用，实现更高的效用同时保持可比公平性。
2026-06-09 cs.GT cs.LG
Surrogate-Assisted Reference Vector Adaptation to Various Pareto Front Shapes for Many-Objective Bayesian Optimization
Jiteki Lab（Jiteki 实验室）
我们提出了一个代理辅助参考向量自适应（SRVA）方法来解决昂贵的多和多目标优化问题与各种帕累托前沿形状。SRVA是再加上一个多目标贝叶斯优化（MBO）算法，使用参考向量标量化的目标函数。该方法采用Kriging代理模型估计目标函数的Pareto前沿形状，并在估计的Pareto前沿上生成均匀分布的自适应参考向量。我们结合SRVA与预期改善的处罚为基础的边界相交作为MBO的填充标准。该算法与其他两个目标优化算法进行了比较，通过将它们应用到具有各种Pareto前沿形状的基准问题。实验结果表明，该算法在目标函数被Kriging模型合理逼近的问题上优于其他两种算法。SRVA提高了这些问题的连续，不连续和退化的帕累托前沿的非支配解决方案的多样性。此外，该算法从优化的早期阶段获得更好的解决方案，特别是在多目标问题。
2021-10-10 cs.LG cs.NE math.OC
e-SimFT: Alignment of Generative Models with Simulation Feedback for Pareto-Front Design Exploration
Autodesk Research（欧特克研究中心）
本文提出e-SimFT框架，首次将LLM偏好对齐方法用于工程设计生成模型，并以仿真器反馈替代人类反馈，结合epsilon采样构建高质量帕累托前沿，优于现有多目标对齐方法。
2025-02-04 cs.AI cs.LG
Learning Pareto Stationary Fronts via Single-Pass Backpropagation
Saarland University（萨尔兰大学）；Universidade Estadual de Campinas（坎皮纳斯州立大学）
MOSEL框架通过将后验多目标优化转化为Stackelberg博弈，以单次反向传播实现帕累托驻留前沿的高效学习，在公平性-准确性等冲突场景中表现优异，并提升多任务学习效果。
2026-10-28 cs.LG
Pareto-Guided Teacher Alignment for Fair Personalized Text Generation
Purdue University（普渡大学）
提出帕累托引导的教师对齐框架，通过修订候选生成、对感知可行性门控、帕累托候选选择和偏好优化，在减少人口统计差异的同时保持个性化保真度，实验表明公平缓解效果依赖于目标且跨域迁移不一致。
2026-06-08 cs.AI cs.CL cs.CY
Pareto-optimal clustering with the primal deterministic information bottleneck
Massachusetts Institute of Technology（麻省理工学院）；The NSF AI Institute for Artificial Intelligence and Fundamental Interactions（美国国家科学基金会人工智能与基础交互研究所）
有损压缩和聚类的核心是学习表示的保真度和大小之间的权衡。我们的目标是绘制和研究量化这种权衡的帕累托边界。我们专注于优化的确定性信息瓶颈（DIB）的硬聚类空间的目标。为此，我们介绍了原始DIB问题，我们在一个更丰富的前沿比以前研究的拉格朗日松弛离散搜索空间优化时，显示结果。我们提出了一种算法，用于映射出原始DIB权衡的帕累托前沿，也适用于其他两个目标的聚类问题。我们研究一般性质的帕累托前沿，我们给出了分析和数值证据的对数稀疏的前沿一般。我们提供的证据表明，我们的算法具有多项式缩放，尽管超指数搜索空间，此外，我们提出了一个修改的算法，可用于采样噪声预计是显着的。最后，我们使用我们的算法映射DIB边界的三个不同的任务：压缩英文字母，提取信息丰富的颜色类从自然图像，并压缩一组理论启发的数据集，揭示有趣的功能的前沿，并演示如何的结构的前沿可以用于模型选择，重点放在以前隐藏的凸包的斗篷点。
2022-07-28 cs.IT cs.LG math.IT
A Hyper-Transformer model for Controllable Pareto Front Learning with Split Feasibility Constraints
Hanoi University of Science and Technology（河内科技大学）
针对约束区域内的可控帕累托前沿学习问题，提出一种超变换器模型，利用序列到序列函数的通用逼近理论，在计算实验中比超多层感知器模型获得更小的MED误差。
2024-02-04 cs.LG math.OC
SURF: Steering the Scalarization Weight to Uniformly Traverse the Pareto Front
Department of Electrical and Computer Engineering（电气与计算机工程系）
本文提出SURF方法，通过调整标量化权重以实现帕累托前沿的均匀覆盖，解决了传统标量化方法在多目标优化中导致非均匀覆盖的问题。
2026-10-12 cs.LG math.OC stat.ML
SPREAD: Sampling-based Pareto front Refinement via Efficient Adaptive Diffusion
Department of Computer Science, TU Dortmund University（计算机科学系，多特蒙德技术大学）；Lamarr Institute for Machine Learning and Artificial Intelligence（拉马尔机器学习与人工智能研究所）
SPREAD通过高效自适应扩散方法提升多目标优化的帕累托前沿覆盖效率
2026-02-03 cs.LG
MAP: Low-compute Model Merging with Amortized Pareto Fronts via Quadratic Approximation
University of Pennsylvania（宾夕法尼亚大学）；MILA（蒙特利尔人工智能研究院）；ServiceNow（ServiceNow公司）；Amazon AGI（亚马逊人工智能实验室）；Université de Montréal（蒙特利尔大学）；HKUST（香港科技大学）；University of Florida（佛罗里达大学）
本文提出低计算量的模型合并算法MAP，利用二次近似摊销帕累托前沿评估成本，在视觉和NLP任务上准确识别权衡解，并扩展贝叶斯MAP和嵌套MAP以适应不同任务数量。
2025-04-25 cs.LG
The Statistical Fairness-Accuracy Frontier
Rice University（莱斯大学）；University of California, Berkeley（加州大学伯克利分校）；Inria Paris（法国国家信息与自动化研究所巴黎分院）
本文研究了在有限样本情况下，如何通过最优样本分配策略和估计器设计，近似公平性-准确率前沿并量化其可靠性。
2026-10-19 cs.LG econ.TH math.OC
Pareto Manifold Learning: Tackling multiple tasks via ensembles of single-task models
University of Geneva（日内瓦大学）
针对多任务学习中任务竞争难获全局最优解的问题，提出帕累托流形学习这一权重空间集成方法，单次训练即可生成连续帕累托前沿，在多类基准上性能优于现有方法。
2023-06-14 cs.LG
Computing the Exact Pareto Front in Average-Cost Multi-Objective Markov Decision Processes
Department of Computer；Information Science, Link \"o ping University, Sweden Email
本文研究了平均成本多目标马尔可夫决策过程中的精确帕累托前沿，通过几何特性分析，揭示了其作为凸多面体边界连续分段线性表面的结构，并应用于远程状态估计问题。
2026-04-02 cs.IT cs.LG cs.NI
Introducing the Expohedron for Efficient Pareto-optimal Fairness-Utility Amortizations in Repeated Rankings
Naver Labs Europe（欧洲Naver实验室）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔国立理工学院）；LIG（格勒诺布尔信息学实验室）
我们考虑的问题，计算一系列的排名，最大限度地提高消费者的效用，同时最大限度地减少生产者的个人不公平的曝光。虽然以前的工作已经解决了这个问题，使用线性或二次规划的双随机矩阵，这种方法，依赖于伯克霍夫-冯诺依曼（BvN）分解，太慢，在大规模实施。在本文中，我们介绍了一个几何对象，一个多面体，我们称之为多面体，其点表示所有可实现的曝光项目的位置为基础的模型（PBM）。我们展示了它的一些属性，并制定了一个Carathéodory分解算法的复杂性$O(n^2\log(n))$能够表示任何点内的多面体作为一个凸和最多$n$顶点，其中$n$是项目的数量排名。这样的分解使得可以将任何可行的目标暴露表示为至多$n$等级上的分布。此外，我们表明，我们可以使用这个多面体恢复多目标公平效用优化问题的整个帕累托前沿，使用一个简单的几何过程与复杂性$O(n^2\log(n))$。我们的方法比较有利的线性或二次规划基线的算法复杂性和经验运行时间，适用于任何优点，是一个非递减函数的项目相关性。此外，我们的解决方案可以表示为一个分布，只有$n$排列，而不是$(n-1)^2 + 1$实现BvN分解。我们在合成和真实世界的数据集上进行实验，证实了我们的理论结果。
2022-02-07 cs.IR cs.LG
Pareto Front-Diverse Batch Multi-Objective Bayesian Optimization
Washington State University（华盛顿州立大学）；Stanford University（斯坦福大学）
针对昂贵黑箱函数的批量多目标优化，提出PDBO，结合多臂老虎机自动选择采集函数并用DPPs选取多样化批次，显著提升Pareto解质量与多样性。
2024-06-13 cs.AI cs.LG
User Preference Meets Pareto-Optimality in Multi-Objective Bayesian Optimization
University of California, Berkeley（加州大学伯克利分校）；Mitsubishi Electric Research Laboratories（三菱电机研究院）
针对效用驱动MOBO可能产生受支配解且经典方法需估计完整Pareto前沿的问题，提出PUB-MOBO，结合偏好支配效用函数与局部多梯度下降，在多个基准上取得更优Pareto接近度和效用遗憾。
2025-03-17 cs.LG
Pareto Front Approximation for Multi-Objective Session-Based Recommender Systems
OTTO (GmbH & Co KG)（奥托（有限两合公司））
提出 MultiTRON 方法，利用 transformer 神经网络将 Pareto 前沿近似技术应用于多目标会话推荐系统，通过训练偏好向量优化点击率与转化率等指标的权衡，使单一模型能灵活满足不同业务需求。
2025-03-30 cs.AI cs.IR cs.LG
Data vs. Physics: The Apparent Pareto Front of Physics-Informed Neural Networks
Know-Center GmbH（Know-Center有限公司）；LEC GmbH（LEC有限公司）
本文研究物理系统参数如何通过缩放损失残差影响PINNs的多目标优化，提出利用损失权重补偿参数缩放并在表观帕累托前沿上选择物理有效解，从而改善训练效果。
2024-06-10 cs.LG
