FairlyUncertain: A Comprehensive Benchmark of Uncertainty in Algorithmic Fairness
New York University（纽约大学）
本文提出 FairlyUncertain 公理化基准，系统评估公平性中的不确定性估计，发现二分类中简单方法更一致且校准良好、弃权（不执行）无法缓解群体结果不平衡，而回归中纳入校准不确定性可无需显式干预即改善公平性。
2024-10-02 cs.LG stat.ML
A fairness-aware extension of Stochastic Multicriteria Acceptability Analysis for ranking
Engineering School, Mackenzie Presbyterian University（麦肯锡长老会大学工程学院）
提出SMAA-Fair，通过重加权排序以提升群体公平性，结合统计均等、rKL和nDKL指标，在保持鲁棒性同时改善受保护群体在有利位置的代表性。
2026-06-17 cs.LG
Fair Uncertainty Quantification for Depression Prediction
School of Intelligent Engineering and Automation, Beijing University of Posts and Telecommunications（智能工程与自动化学院，北京邮电大学）
本文针对抑郁症预测中不确定性量化的群体公平问题，提出基于保形预测和EOC约束优化的FUQ框架，在多模态抑郁数据集上验证其可兼顾可靠性与公平性。
2025-09-30 cs.AI cs.LG
Uncertainty-Aware Fairness-Adaptive Classification Trees
University of Florence（佛罗伦萨大学）；University of Calabria（卡拉布里亚大学）
针对机器学习预测中的歧视问题，提出融合公平感知不纯度度量、基于置信区间考量公平性不确定性的分类树算法，在准确率无显著损失下有效降低歧视。
2024-10-08 cs.LG stat.ML
Uncertainty-based Fairness Measures
Middle East Technical University（中东技术大学）；University of Cambridge（剑桥大学）；The Alan Turing Institute（阿兰·图灵研究所）
本文指出现有基于点预测的公平性度量忽略了不确定性，提出了基于偶然不确定性和认知不确定性的新公平性度量，证明其能补充现有方法并揭示偏见背后的潜在问题。
2024-08-29 cs.CY cs.LG stat.ML
Fairness under Graph Uncertainty: Achieving Interventional Fairness with Partially Known Causal Graphs over Clusters of Variables
NTT Communication Science Laboratories（NTT通信科学实验室）
提出一种利用变量簇因果图实现干预公平性的学习框架，通过调整簇集间的最大均值差异训练模型，在有限因果图知识下平衡公平与精度。
2026-06-23 cs.LG stat.ML
Towards Fair In-Context Learning with Tabular Foundation Models
ÉTS Montréal（蒙特利尔ÉTS）；Mila - Quebec AI Institute（魁北克人工智能研究所）；University of Calgary（卡尔加里大学）；CIFAR（加拿大基础科学研究院）
本文提出通过三种预处理方法提升基于表格基础模型的上下文学习公平性，实验表明基于不确定性的策略有效提高公平性指标且对预测准确性影响小。
2026-01-05 cs.LG
Fair Decision-making Under Uncertainty
Carnegie Mellon University（卡内基梅隆大学）
人工智能（AI）社区和更广泛的社会一直担心基于AI的决策系统可能缺乏公平性。令人惊讶的是，在许多社会敏感应用中普遍存在的不确定性的情况下，几乎没有量化和保证公平的工作，从营销分析到精算分析和累犯预测工具。为此，我们研究了一个受公平约束的纵向审查学习问题，在这个问题上，我们要求在由于审查而存在类别标签不确定性的情况下，算法决策不会对某些个人或社会群体产生负面影响。我们认为，这种提法有一个更广泛的适用性，以实际情况有关公平。我们展示了如何新设计的公平概念，涉及审查的信息和一般框架，在审查制度的存在下，公平的预测，使我们能够衡量和减轻歧视的不确定性，弥合差距与现实世界的应用。在真实世界的歧视数据集与审查的实证评估证明了我们的方法的实用性。
2023-01-29 cs.AI cs.LG
U-Fair: Uncertainty-based Multimodal Multitask Learning for Fairer Depression Detection
University of Cambridge（剑桥大学）；the Alan Turing Institute（艾伦·图灵研究所）；Indian Institute of Technology Kanpur（印度理工学院坎普尔分校）；Middle East Technical University (METU)（中东技术大学）
针对抑郁症检测中机器学习的公平性与性能问题，本研究提出结合不确定性的基于性别的任务重加权多任务方法U-Fair，在提升性能与公平性的同时缓解负迁移等问题，且研究发现与PHQ-8相关大规模人群研究结果一致。
2025-01-16 cs.LG
Individual Fairness under Uncertainty
Florida International University（佛罗里达国际大学）；Carnegie Mellon University（卡内基梅隆大学）；University of Mississippi（密西西比大学）；National Institutes of Health（美国国立卫生研究院）
针对类别标签审查导致的不确定性，本文提出无需 Lipschitz 条件的排序视角个体公平性度量与算法，并在四个真实数据集上验证其兼顾预测性能与降低歧视的优势。
2023-12-11 cs.AI cs.CY cs.LG
Evaluating the Fairness of Deep Learning Uncertainty Estimates in Medical Image Analysis
Centre for Intelligent Machines, McGill University（麦吉尔大学智能机器中心）
尽管深度学习（DL）模型在许多医学图像分析任务中取得了巨大成功，但将所产生的模型部署到实际临床环境中需要：（1）它们在不同的子人群中表现出鲁棒性和公平性，以及（2）DL模型预测的置信度以不确定性的形式准确表达。不幸的是，最近的研究确实显示了人口统计学亚组（例如，种族、性别、年龄），表明模型缺乏公平性。尽管ML文献中已经提出了几种方法来减轻DL模型中缺乏公平性的问题，但它们完全关注组之间的绝对性能，而不考虑它们对不确定性估计的影响。在这项工作中，我们提出了第一次探索流行的公平模型的影响，克服偏见在医疗图像分析的底线性能方面的子群，以及它们对不确定性量化的影响。我们对三种不同的临床相关任务进行了广泛的实验：（i）皮肤病变分类，（ii）脑肿瘤分割，（iii）阿尔茨海默病临床评分回归。我们的研究结果表明，流行的ML方法，如数据平衡和分布式鲁棒优化，成功地减轻了一些任务的模型性能方面的公平性问题。然而，这可能是以与模型预测相关的不确定性估计较差为代价的。如果要在医学图像分析中采用公平模型，则必须减轻这种权衡。
2023-03-06 cs.CV cs.CY cs.LG
The Role of Uncertainty in Assessing the Fairness of Machine Learning Models
Università della Svizzera Italiana (USI)（瑞士意大利语区大学）
本文探讨机器学习模型公平性评估中的不确定性量化，提出频率派和贝叶斯方法，并通过模拟和真实数据示例展示其应用与影响。
2026-09-09 cs.LG stat.ME stat.ML
Is Your Model Fairly Certain? Uncertainty-Aware Fairness Evaluation for LLMs
Carnegie Mellon University（卡内基梅隆大学）；Apple Inc.（苹果公司）
提出不确定性感知公平性指标UCerF及含31,756样本的性别-职业数据集，评估十个开源LLM，揭示传统指标遗漏的模型内部偏见，推动透明AI系统发展。
2025-05-29 cs.AI cs.CL cs.LG
Bayesian fairness
University of Oslo（奥斯陆大学）；Chalmers University（查尔姆斯理工大学）；UC Santa Cruz（加州大学圣克鲁兹分校）；Harvard University（哈佛大学）
我们考虑的问题，如何决策可以是公平的，当世界的基本概率模型是不确定的。我们认为，最近的机器学习中的公平性的概念需要明确地纳入参数的不确定性，因此，我们引入了{ \em贝叶斯公平性}的概念作为一个合适的候选人公平的决策规则。使用平衡，Kleinberg et al（2016）引入的公平性定义，我们展示了贝叶斯观点如何导致即使在高度不确定性下也能表现良好，公平的决策规则。
2018-11-04 cs.LG stat.ML
Safe Fairness Guarantees Without Demographics in Classification: Spectral Uncertainty Set Perspective
Basque Center for Applied Mathematics (BCAM)（巴斯克应用数学中心）；Predictive Analytics Lab, University of Sussex（预测分析实验室，苏塞克斯大学）；Monash University Indonesia（墨尔本大学印尼分校）；University of the Basque Country EHU（巴斯克国家大学EHU）
SPECTRE通过调整傅里叶特征映射谱，提供无需人口统计信息的分类公平性保障，并通过理论分析推导出最坏情况误差的可计算界限。
2026-02-12 cs.AI cs.LG
A Generic Framework for Conformal Fairness
The Ohio State University（俄亥俄州立大学）；Dolby Laboratories（杜比实验室）；Cisco Systems（思科系统）
本文形式化 Conformal Fairness，提出基于可交换性假设的保形预测公平性算法与通用框架，可控制敏感群体间覆盖率差距，并适用于图等非 IID 数据。
2025-10-20 cs.LG
Enhancing Fairness and Performance in Machine Learning Models: A Multi-Task Learning Approach with Monte-Carlo Dropout and Pareto Optimality
Rice University（莱斯大学）
针对机器学习中由数据与算法引发的偏差问题，提出结合MC Dropout的多任务学习框架，借助帕累托最优平衡公平性与性能，在多数据集上验证有效并提升了模型可解释性。
2024-10-06 cs.CY cs.LG
Achieving Distributive Justice in Federated Learning via Uncertainty Quantification
University of Arkansas（亚拉巴马大学）
提出UDJ-FL框架，通过偶然不确定性加权实现联邦学习中平等主义、功利主义、罗尔斯差异原则和应得四种分配正义公平性指标，并提供泛化界限理论保证。
2025-04-22 cs.AI cs.LG stat.ML
Is Your Classifier Actually Biased? Measuring Fairness under Uncertainty with Bernstein Bounds
Stanford University（斯坦福大学）
大多数NLP数据集都没有使用受保护的属性（如性别）进行注释，因此很难使用标准的公平性度量（例如，机会均等）。但是，手动注释具有受保护属性的大型数据集是缓慢且昂贵的。我们能不能不标注所有的例子，而是标注其中的一个子集，并使用该样本来估计偏差？虽然有可能这样做，但注释样本越小，我们就越不确定估计值是否接近真实偏倚。在这项工作中，我们建议使用伯恩斯坦界来表示这种不确定性的偏差估计的置信区间。我们提供的经验证据表明，以这种方式得出的95%置信区间始终是真实偏倚的界限。在量化这种不确定性时，我们称之为伯恩斯坦有界不公平的方法有助于防止分类器在没有足够的证据做出任何声明时被认为是有偏见或无偏见的。我们的研究结果表明，目前用于测量特定偏差的数据集太小，无法最终确定偏差，除非在最严重的情况下。例如，考虑一个共指消解系统，它在性别刻板印象句子上的准确率要高出5%--要声称它有95%的置信度，我们需要一个比WinoBias大3.8倍的特定于偏见的数据集。
2020-04-26 cs.CL cs.LG
Uncertainty and Fairness Awareness in LLM-Based Recommendation Systems
Beihang University（北京航空航天大学）；McGill University（麦吉尔大学）
本文研究了大语言模型推荐系统中不确定性与公平性的影响，提出了一种新的评估方法并揭示了个性化与公平性之间的权衡。
2026-01-31 cs.AI cs.CL cs.CY
Counterfactually Fair Conformal Prediction
UC Santa Barbara（加州大学圣芭芭拉分校）；Munich RE（慕尼黑再保险）
CF-CP通过反事实公平的预测集实现公平不确定性量化，适用于回归和分类任务。
2026-03-12 cs.LG
Uncertainty Quantification for Fairness in Two-Stage Recommender Systems
Cornell University（康奈尔大学）
许多大规模的推荐系统由两个阶段组成。第一阶段有效地筛选完整的项目池，以获得一小部分有希望的候选项目，第二阶段模型从中筛选出最终的推荐。在本文中，我们将探讨如何确保组公平的项目在这个两阶段的架构。特别是，我们发现，现有的第一阶段推荐可能会选择一个不可挽回的不公平的候选人，这样就没有希望的第二阶段推荐提供公平的建议。为此，在不确定性量化的最新进展的动机下，我们提出了两个阈值政策选择规则，可以提供分布自由和有限样本保证公平的第一阶段的决策者。更具体地说，给定查询和项目的任何相关性模型以及每个阈值策略的相关项目的预期数量上的逐点置信下限，这两个规则找到包含来自每组项目的期望中的足够相关项目的接近最优的候选集。为了实例化的规则，我们演示了如何从潜在的部分和有偏见的用户反馈数据，这是丰富的许多大型推荐系统中得到这样的置信区间。此外，我们提供了有限样本和渐近分析如何接近两个阈值选择规则的最佳阈值。除了这种理论分析，我们的经验表明，这两个规则可以始终选择足够的相关项目，从每个组，同时最大限度地减少候选集的大小为广泛的设置。
2023-02-24 cs.IR cs.LG
RESFL: An Uncertainty-Aware Framework for Responsible Federated Learning by Balancing Privacy, Fairness and Utility
Virginia Tech（弗吉尼亚理工大学）；U.S. Army Research Laboratory（美国陆军研究实验室）
RESFL框架通过结合对抗性隐私解耦和不确定性引导的公平性感知聚合，提升联邦学习中隐私与公平性的平衡，实验表明其在自动驾驶场景中提升了检测性能并降低了对抗攻击成功率。
2026-04-21 cs.CV cs.DC cs.ET
Fairness in Ranking under Disparate Uncertainty
Cornell University（康奈尔大学）
针对排序中因不同群体相关性模型不确定性差异导致的公平性问题，提出机会均等排序（EOR）准则及$O(n\log n)$高效算法，经验证可在保障排序效果的同时可靠实现EOR公平。
2024-10-29 cs.CY cs.IR cs.LG
Counterfactual Fairness with Graph Uncertainty
Instituto Superior Técnico（里斯本技术高等学院）；Instituto de Telecomunicações（电信研究所）；Fraunhofer Portugal AICOS（弗劳恩霍夫葡萄牙AICOS研究所）
本文提出CF-GU方法，通过整合因果图的不确定性，提升反事实公平性评估的鲁棒性和准确性。
2026-01-06 cs.AI cs.CY cs.LG
When does a predictor know its own loss?
Apple（苹果公司）；Harvard University（哈佛大学）；Stanford University（斯坦福大学）
本研究探讨损失预测的理论基础，证明非平凡损失预测与多重校准审计等价，并通过实验验证二者正相关。
2025-02-27 cs.LG
Fairness in Ranking under Uncertainty
Cornell University（康奈尔大学）；University of Southern California（南加州大学）
公平性已经成为算法决策中的一个重要考虑因素。当一个具有较高优点的代理人比一个具有较低优点的代理人获得更差的结果时，就发生了不公平。我们的核心观点是，不公平的主要原因是不确定性。做出决策的主体或算法永远无法访问代理的真实价值，而是使用仅不完美地预测价值的代理特征（例如，GPA、星级、推荐信）。这些都没有完全捕捉代理的优点，但现有的方法大多是直接根据观察到的功能和结果来定义公平的概念。我们的主要观点是，明确地承认和建模不确定性是更有原则的。观察到的特征的作用是产生代理人优点的后验分布。我们用这个观点来定义一个概念的近似公平的排名。我们称一个算法$ϕ$ -fair（对于$ϕ\in [0,1]$），如果它对所有代理$x$和所有$k$都有以下属性：如果代理$x$在$k$代理中的排名最高，概率至少为$ρ$（根据后验价值分布），那么该算法将该代理置于其排名最高的$k$代理中，概率至少为$ϕρ$。我们将展示如何计算排名，最佳权衡近似公平对效用的主要。除了理论表征，我们提出了一个实证分析的方法在模拟研究的潜在影响。对于现实世界的验证，我们在KDD 2020会议上构建并部署的论文推荐系统中应用了该方法。
2021-11-10 cs.CY cs.IR cs.LG
FedCF: Fair Federated Conformal Prediction
Georgia Institute of Technology（佐治亚理工学院）；The Ohio State University（俄亥俄州立大学）
提出FedCF框架，将共形公平性扩展到联邦学习，通过分析不同人口统计组的公平性差距来审计模型公平性，并在多个数据集上验证。
2026-05-30 cs.LG
Assessing Uncertainty in Similarity Scoring: Performance & Fairness in Face Recognition
LTCI, Télécom Paris, Institut Polytechnique de Paris（LTCI、巴黎电信学院、巴黎理工学院）；Idemia（安道集团）
本文针对人脸识别中相似度评分的ROC曲线及公平性指标，提出基于U统计量渐近理论和专门重新中心化技术的可靠不确定性评估方法，并通过真实人脸数据集实验验证其有效性。
2024-02-20 cs.AI cs.CV cs.LG
Fairness Uncertainty Quantification: How certain are you that the model is fair?
Halıcıoğlu Data Science Institute, University of California, San Diego（加州大学圣地亚哥分校哈利乔奥卢数据科学研究所）；University of California, Davis（加州大学戴维斯分校）
针对在线 SGD 训练的 DI/DM 公平感知线性二分类器，本文证明参数渐近正态并提出在线乘子自助置信区间，将在线自助一致性理论扩展至约束优化。
2023-04-27 cs.CY cs.LG stat.ML
Fairness for Image Generation with Uncertain Sensitive Attributes
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
这项工作解决了在生成过程中的公平性问题，如图像超分辨率，这需要从标准分类设置不同的定义。此外，虽然传统的群体公平定义通常是针对特定的受保护群体定义的-否认这些群体是人为的，带有历史和政治动机的事实-但我们强调，没有真实的身份。例如，南亚人和东亚人应该被视为一个单一的群体还是不同的群体？我们应该把一个种族看作一个整体，还是按性别进一步划分？选择哪些群体是有效的，谁属于他们是一个不可能的困境，对亚洲人“公平”可能需要对南亚人“不公平”。这促使引入定义，允许算法成为相关分组的\emph{oblivious}。我们定义了几个直观的概念组公平和研究他们的不兼容性和权衡。我们表明，人口均等的自然扩展是强烈依赖于分组，和\emph{impossible}，以实现闭塞。另一方面，我们引入的概念性的新定义，条件比例表征，可以通过后验抽样实现。我们的实验验证了我们的理论结果，并实现公平的图像重建使用国家的最先进的生成模型。
2021-07-02 cs.CV cs.LG stat.ML
(Un)certainty of (Un)fairness: Preference-Based Selection of Certainly Fair Decision-Makers
Heinrich Heine University（海因里希·海涅大学）
本文提出用贝叶斯统计量化公平性差异的不确定性，基于偏好和效用函数选择最确定公平的决策者，以增强歧视评估。
2024-09-19 cs.AI cs.LG
Fairness-Aware Multi-view Evidential Learning with Adaptive Prior
本文针对多视图证据学习中的证据分配偏差问题，提出公平感知多视图证据学习（FAML），通过自适应先验、类别证据方差公平约束和意见对齐机制实现均衡证据分配，提升预测性能与不确定性估计可靠性。
2025-11-08 cs.LG stat.ML
Wasserstein Distributionally Robust Optimization Through the Lens of Structural Causal Models and Individual Fairness
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Tübingen AI Center（图宾根人工智能中心）；Mila Québec AI Institute（魁北克人工智能研究所）；McGill University（麦吉尔大学）
该研究从因果结构与个体公平性角度重构 Wasserstein DRO，利用对偶形式、闭式正则化及有限样本误差界提升其可计算性与鲁棒性。
2025-09-30 cs.LG
Conformal uncertainty quantification to evaluate predictive fairness of foundation AI model for skin lesion classes across patient demographics
Indian Statistical Institute（印度统计研究所）；The Alan Turing Institute（艾伦·图灵研究所）；University College London（伦敦大学学院）
该研究利用保形分析量化基于ViT的基础模型在不同人口统计学特征下进行皮肤病变分类的预测不确定性，并提出将其作为公平性指标评估模型特征嵌入的稳健性，从而提升临床AI的可信度与公平性。
2025-03-31 cs.AI cs.CV cs.LG
Evaluating Fairness of Machine Learning Models Under Uncertain and Incomplete Information
Google（谷歌）；Rutgers University（罗格斯大学）；Amazon（亚马逊）；University of Washington（华盛顿大学）
公平分类器的训练和评价是一个具有挑战性的问题。这部分是由于大多数感兴趣的公平性度量依赖于数据点的敏感属性信息和标签信息。在许多情况下，不可能收集具有此类信息的大型数据集。一种常用的替代方法是在具有敏感属性信息的数据上单独训练属性分类器，然后稍后在ML流水线中使用它来评估给定分类器的偏差。虽然这种解耦有助于缓解人口稀少的问题，但它提出了几个自然的问题，例如：属性分类器应该如何训练？以及如何使用给定的属性分类器进行准确的偏差估计？在这项工作中，我们从理论和经验的角度来研究这个问题。我们首先通过实验证明，属性分类器的测试精度并不总是与其在下游模型的偏差估计中的有效性相关。为了进一步研究这一现象，我们分析了一个理想化的理论模型，并描述了最佳分类器的结构。我们的分析有令人惊讶的和反直觉的影响，在某些制度中，人们可能希望尽可能不均匀地分布在不同的子组之间的属性分类器的错误。基于我们的分析，我们开发了训练和使用属性分类器在数据稀缺制度的偏见估计的算法。我们实证证明了我们的方法对真实和模拟数据的有效性。
2021-02-16 cs.LG stat.ML
Equal Opportunity of Coverage in Fair Regression
University of Illinois Chicago（伊利诺伊大学芝加哥分校）；ByteDance Research（字节跳动研究院）
针对现有均等覆盖公平性方法在细粒度群体及不确定性评估上的不足，提出覆盖机会均等（EOC）概念及无分布后处理方法BFQR，可在维持预定覆盖率与合理区间宽度的同时提升EOC，实验验证了其有效性。
2023-11-03 cs.LG
Accounting for Model Uncertainty in Algorithmic Discrimination
Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）
在算法决策中确保群体公平性的传统方法旨在均衡群体中不同子群体的“总体”出错率。相比之下，我们认为，公平的方法，而不是只专注于均衡错误所产生的模型不确定性（又名认知的不确定性），造成由于缺乏知识的最佳模型或由于缺乏数据。换句话说，我们的建议要求忽略由于数据中固有的不确定性而发生的错误，即，任意的不确定性我们得出了预测的多重性和模型的不确定性之间的连接，并认为预测的多重性的技术可以用来识别由于模型的不确定性所造成的错误。我们提出了可扩展的凸代理来展示预测多样性的分类器，并根据经验表明，我们的方法在性能上具有可比性，并且比目前的状态快四个数量级。我们进一步提出了方法，以实现我们的目标，均衡组出错率，由于模型的不确定性，在算法决策，并证明这些方法的有效性，使用合成和真实的。世界数据集
2021-05-10 cs.CY cs.LG
Beyond Procedure: Substantive Fairness in Conformal Prediction
University of Montreal（蒙特利尔大学）
本文通过理论分解和LLM辅助评估，研究共形预测中标签聚类方法如何平衡效用与实质性公平，并发现均衡集合大小比覆盖度更能提升公平性。
2026-06-01 cs.LG stat.ML
Fairness Transferability Subject to Bounded Distribution Shift
University of California, Santa Cruz（加州大学圣克鲁兹分校）
给定一个算法预测器在某个源分布上是“公平的”，那么它在一个未知的目标分布上是否仍然是公平的，而这个未知的目标分布在某个范围内不同于源分布？在本文中，我们研究了机器学习预测器的统计组公平性的可转移性（即，分类器或回归器）服从有界分布偏移。这种偏移可能由初始训练数据不确定性、用户对部署的预测器的适应、动态环境或在新设置中使用预训练模型引入。在这里，我们开发了一个界限，这种可转移性的特点，标记潜在的不适当的部署机器学习的社会后果的任务。首先，我们开发了一个框架，以界定违反统计公平性的分布偏移，制定了一个通用的上限转移的公平性违反我们的主要结果。然后，我们为具体的工作示例制定界限，重点是两个常用的公平性定义（即，人口统计学均等和均等化的几率）和两类分布偏移（即，协变量偏移和标签偏移）。最后，我们比较我们的理论界限，确定性模型的分布偏移和对现实世界的数据，发现我们能够估计公平违反界限在实践中，即使简化的假设只有近似满足。
2022-12-15 cs.CY cs.LG
Beyond Independent Manipulation: Individual Fairness-aware Strategic Classification with Peer Imitation
College of Computer Science and Technology, National University of Defense Technology（国防科技大学计算机科学与技术学院）；School of Mathematical Sciences, Peking University（北京大学数学学院）；Institute for Theoretical Computer Science, Shanghai University of Finance and Economics（上海财经大学理论计算机科学研究所）；Information Technology Development, Aetos Capital Group, Sydney（悉尼Aetos资本集团信息技术部）；Faculty of Computing, Harbin Institute of Technology（哈尔滨工业大学计算机学院）；Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术系）
提出个体公平感知策略分类（IFSC）框架，通过建模基于个体公平的同伴驱动操纵（模仿邻近被接受同伴），并采用鲁棒学习过程处理同伴可观测性不确定性，以改善个体公平一致性并减轻模仿引起的扭曲。
2026-06-26 cs.AI cs.LG
First-See-Then-Design: A Multi-Stakeholder View for Optimal Performance-Fairness Trade-Offs
Department of Computer Science, Saarland University（萨尔兰大学计算机科学系）；Zurich University of Applied Sciences（苏黎世应用科学大学）
本文提出多利益相关者框架，通过福利经济学和分配正义理论，建模决策者与决策主体的效用，定义公平性为社会规划者的效用，探讨决策策略对性能-公平性权衡的影响。
2026-04-15 cs.AI cs.LG
Fair Risk Control: A Generalized Framework for Calibrating Multi-group Fairness Risks
Rutgers（罗格斯大学）；Penn（宾夕法尼亚大学）；University of Pennsylvania（宾夕法尼亚大学）；Rutgers University（罗格斯大学）
本文提出广义多维多重校准框架及算法，用于对机器学习模型进行后处理以实现多群体公平性保证，并应用于图像分割、层次分类和文本生成等任务。
2024-05-03 cs.AI cs.CY cs.LG
Learning Efficient and Fair Policies for Uncertainty-Aware Collaborative Human-Robot Order Picking
Eindhoven University of Technology（埃因霍温理工大学）；Vanderlande Industries B.V.（范德兰德工业有限公司）
针对人机协作订单拣选的随机分配优化问题，提出基于图建模的多目标DRL方法，兼顾效率与公平性，性能优于基准且具备跨仓库规模的迁移能力。
2024-04-09 cs.AI cs.LG cs.RO
Function Composition in Trustworthy Machine Learning: Implementation Choices, Insights, and Questions
IBM Research（IBM研究院）
确保机器学习（ML）模型的可信性是一项多维任务。除了传统的预测性能概念之外，其他概念，如隐私，公平性，对分布偏移的鲁棒性，对抗性鲁棒性，可解释性，可解释性和不确定性量化都是评估和改进的重要考虑因素（如果不足）。然而，这些可信度的子学科或“支柱”在很大程度上是独立发展的，这限制了我们理解它们在现实世界的ML管道中的交互。在本文中，我们特别关注由不同支柱产生的功能组合，旨在缩小这一差距，为可信赖的ML开发新的见解，并回答以下问题。与单一干预相比，多个公平干预的组合是否会导致更公平的模型？如何减轻偏见算法的公平性影响当地事后的解释？当与隐私转换组合时，非目标对抗攻击的防御算法是否仍然有效？为此，我们报告了来自7个真实世界数据集上9种不同功能（或管道）组合的初步实证结果和新见解，以及两个值得信赖的维度-公平性和可解释性。我们还报告了一个可扩展的作曲家工具的进展和实现选择，以鼓励多个支柱的功能组合。到目前为止，该工具支持公平性和事后可解释性方法的偏差缓解算法。我们希望这类工作能够鼓励在试图制定和解决可信度问题时对多个支柱进行深思熟虑的考虑。
2023-02-17 cs.CY cs.LG
Conformal Prediction Sets Can Cause Disparate Impact
Layer 6 AI；TD Securities（道明证券）
针对保形预测集在实际决策中需单一输出的局限，通过人类实验发现其会导致差异影响，且满足均等覆盖的集合会加剧该影响，进而提出跨群体均等化集合大小以降低差异影响的方法。
2025-02-13 cs.LG stat.ML
Sampling Individually-Fair Rankings that are Always Group Fair
IISc（印度科学学院）；Yale University（耶鲁大学）；MSR India（微软研究院印度分院）
针对排名中的公平性问题，提出一种高效算法，从个体公平分布中采样排名，确保每个输出排名满足群体公平，且期望效用接近最优公平解，实验证明其优于现有基线。
2023-06-21 cs.CY cs.DS cs.IR
When Fair Ranking Meets Uncertain Inference
Northeastern University（东北大学）；Carnegie Mellon University（卡内基梅隆大学）
研究探讨了在人口推断存在不确定性时，公平排名算法的公平性影响，指出不应使用不准确的人口推断数据作为输入。
2022-05-04 cs.CY cs.IR cs.LG
Uncertainty as a Form of Transparency: Measuring, Communicating, and Using Uncertainty
Partnership on AI（人工智能合作组织）；University of Cambridge（剑桥大学）；IBM Research（IBM研究院）；Carnegie Mellon University（卡内基梅隆大学）；Element AI；Intel Labs（英特尔实验室）；New York University（纽约大学）；The Alan Turing Institute（艾伦·图灵研究所）；Sony AI（索尼AI）
系统透明性需要将系统属性暴露给各种利益相关者，以实现理解、改进和质疑预测等目的。到目前为止，大多数关于算法透明度的研究主要集中在可解释性上。可解释性试图为利益相关者提供机器学习模型行为的原因。然而，仅仅理解模型的特定行为可能不足以让涉众判断模型是否是错误的，或者缺乏足够的知识来解决手头的任务。在本文中，我们主张考虑一种补充形式的透明度，估计和沟通的不确定性与模型预测。首先，我们讨论评估不确定性的方法。然后，我们描述了如何使用不确定性来减轻模型的不公平性，增强决策，并建立可信的系统。最后，我们概述了向利益相关者展示不确定性的方法，并建议如何收集将不确定性纳入现有ML管道所需的信息。这项工作构成了一个跨学科的审查，从文献跨越机器学习，可视化/人机交互，设计，决策和公平。我们的目标是鼓励研究人员和从业人员测量，沟通，并使用不确定性作为一种形式的透明度。
2021-05-04 cs.CY cs.HC cs.LG
HappyMap: A Generalized Multi-calibration Method
Columbia University（哥伦比亚大学）；Harvard University（哈佛大学）；Rutgers University（罗格斯大学）
多重校准是起源于算法公平性领域的一个强大且不断发展的概念。对于在给定协变量$x$的情况下估计结果$y$的预测器$f$，以及对于函数类$\mathcal{C}$，多重校准要求预测器$f(x)$和结果$y$在$\mathcal{C}$中的审计器类下不可区分。公平性是通过将人口统计分组纳入函数类~ $\mathcal{C}$来捕获的。最近的工作已经表明，通过丰富类$\mathcal{C}$以合并适当的倾向重新加权函数，多校准还产生目标无关学习，其中在源域上训练的模型在由重新加权捕获的看不见的未来目标域（近似地）上表现良好。形式上，针对所有$c \in \mathcal{C}$的$\mathcal{C}$界限$\big|\mathbb{E}_{(x,y)\sim \mathcal{D}}[c(f(x),x)\cdot(f(x)-y)]\big|$进行多重校准。在这项工作中，我们认为长期$(f(x)-y)$作为只是一个特定的映射，并探讨丰富的映射类的权力。我们提出了\textit{HappyMap}，一个推广的多重校准，它产生了广泛的新的应用，包括一个新的公平概念的不确定性量化（共形预测），一种协变量偏移下的共形预测新技术，以及一种分析缺失数据的不同方法，同时也产生了对几个现有的看似不同的算法公平性概念和目标的统一理解，独立的学习方法。我们给一个单一的\textit{HappyMap}元算法…
2023-03-08 cs.CY cs.LG stat.ME
