Fair Bilevel Neural Network (FairBiNN): On Balancing fairness and accuracy via Stackelberg Equilibrium
University of Central Florida(中佛罗里达大学)
针对现有偏见缓解方法易损失信息、难以平衡准确性与公平性的问题,提出基于双层优化的公平双层神经网络FairBiNN,可实现帕累托最优,在表格数据集上性能优于现有公平方法,缩小了准确率与公平性的差距。
2024-10-29 cs.LG
ProportionNet: Balancing Fairness and Revenue for Auction Design with Deep Learning
University of Maryland(马里兰大学);Hofstra University(霍夫斯特拉大学);University of Maryland and John Dickerson(马里兰大学和John Dickerson)
具有强激励保证的收入最大化拍卖的设计是经济理论的核心问题。计算拍卖使在线广告,采购,频谱分配和无数的金融市场成为可能。在这个领域的分析进展是出了名的困难;自从Myerson在1981年的工作描述了单一物品最优拍卖,在限制设置之外的进展有限。Dütting等人最近的一篇论文通过将深度学习技术应用于近似最优拍卖来规避分析困难。与此同时,Ilvento等人和其他研究小组的新研究也在拍卖设计的背景下发展了公平的概念。受这些进展的启发,在本文中,我们使用深度学习扩展了近似拍卖的技术,以解决公平性问题,同时保持高收入和强激励保证。
2020-10-13 cs.GT cs.LG
Balancing Efficiency and Fairness in Traffic Light Control through Deep Reinforcement Learning
University of Padova(帕多瓦大学)
本文提出一种新型深度强化学习代理,通过整合公平性考虑平衡车辆和行人交通流,实验证明能有效减少拥堵并保障服务公平性。
2026-05-11 cs.LG
Towards Model-Agnostic Post-Hoc Adjustment for Balancing Ranking Fairness and Algorithm Utility
Tsinghua University(清华大学);Weill Cornell Medicine(威尔康奈尔医学院)
二分排序,其目的是学习一个评分函数,排名积极的个人高于消极的标记数据,被广泛采用在各种应用中,需要样本优先级。最近,人们越来越关注学习的评分函数是否会导致由敏感属性定义的不同保护组之间的系统差异。虽然公平性和性能之间可能存在权衡,但在本文中,我们提出了一个与模型无关的后处理框架,用于在二分排名场景中平衡它们。具体来说,我们通过直接调整各组样本的相对排序来最大化效用和公平性的加权和。通过制定这个问题的最佳翘曲路径在不同的保护组的识别,我们提出了一个非参数的方法来搜索这样的最佳路径,通过一个动态规划过程。我们的方法是兼容的各种分类模型,并适用于各种排名公平性指标。一套基准数据集和两个真实世界的病人电子健康记录库的综合实验表明,我们的方法可以实现算法的效用和排名的公平性之间的很大的平衡。此外,我们实验验证了我们的方法的鲁棒性,当面对较少的训练样本和训练和测试之间的排名分数分布的差异。
2021-06-07 cs.LG stat.ML
FairPOT: Balancing AUC Performance and Fairness with Proportional Optimal Transport
本文提出与模型无关的后处理框架FairPOT,利用最优传输选择性地转换劣势群体中可控比例的风险分数,有效平衡了高风险领域中AUC性能与公平性,并在全局和部分AUC场景下优于现有方法。
2025-08-12 cs.AI cs.CY cs.LG
Tuning Fairness by Balancing Target Labels
University of Sussex(萨塞克斯大学);University of Exeter(埃克塞特大学)
机器学习模型中的公平性问题最近吸引了很多关注,因为确保它将确保公众对机器学习系统部署的持续信心。我们专注于减轻有偏见的机器学习系统所造成的伤害,该系统为某些群体提供比其他群体更好的输出(例如贷款,工作面试)。我们表明,在输出中的偏差可以自然地控制概率模型,通过引入一个潜在的目标输出。这个公式有几个优点:第一,它是一个统一的框架,几个群体公平的概念,如人口均等和机会均等;第二,它被表达为一个边缘化,而不是一个受约束的问题;第三,它允许编码我们的知识应该是什么样的无偏输出。实际上,第二个允许我们避免不稳定的约束优化程序,并重用现成的工具箱。后者转化为通过直接改变公平目标速率来控制公平水平的能力。相比之下,现有的方法依赖于中间,可以说是不直观的,控制参数,如协方差阈值。
2021-02-23 cs.LG stat.ML
PUFFLE: Balancing Privacy, Utility, and Fairness in Federated Learning
University of Pisa(比萨大学);Telefónica Research(西班牙电信研究院)
本文提出PUFFLE方法,首次在联邦学习中同时平衡效用、隐私与公平性,在保持严格隐私保证下将不公平性降低达75%,最坏情况效用仅降17%。
2024-07-21 cs.AI cs.CR cs.CY
Balancing Fairness and Accuracy in Data-Restricted Binary Classification
University of Maryland(马里兰大学);J.P. Morgan AI Research(摩根大通人工智能研究院)
本文提出一个框架,通过构建分布离散近似分析最优贝叶斯分类器行为,在四种数据受限场景下量化二分类任务中不同公平性定义与准确性的权衡关系,经三个数据集验证有效。
2024-03-12 cs.AI cs.CY cs.LG
Balancing Fairness and Robustness via Partial Invariance
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Minnesota, Twin Cities(明尼苏达大学双城分校)
不变风险最小化(Invariant Risk Minimization,简称OOD)框架旨在从一组环境中学习不变特征,以解决分布外(out-of-distribution,简称OOD)泛化问题。基本假设是,数据生成分布的因果分量在环境中保持恒定,或者数据在环境中“重叠”以找到有意义的不变特征。因此,当“重叠”假设不成立时,真正不变的特征集可能不足以获得最佳预测性能。这样的情况自然出现在网络设置和分层数据生成模型中,其中,网络性能变得次优。为了减轻这种失败的情况下,我们认为部分不变的框架。其关键思想是通过基于层次差异划分环境,同时在分区内局部实施不变性,从而将灵活性引入到可伸缩框架中。我们激励这个框架中的分类设置与因果分布偏移跨环境。我们的研究结果表明,部分不变风险最小化的能力,以减轻公平和风险之间的权衡在某些设置。
2021-12-24 cs.LG
Optimal Transport Learning: Balancing Value Optimization and Fairness in Individualized Treatment Rules
Department of Applied Mathematics, The Hong Kong Polytechnic University(应用数学系,香港理工大学);Department of Biostatistics, City University of Hong Kong(生物统计学系,香港城市大学);Department of Mathematics and Statistics, Xi’an Jiaotong University(数学与统计学系,西安交通大学)
针对个体化治疗规则受敏感属性影响导致不公平的问题,提出基于最优传输理论的改进型权衡ITR方法,通过平滑约束调参平衡价值与公平,建立价值损失上界,经模拟和真实数据集验证有效。
2025-07-31 cs.LG stat.ML
Multi-Agent Reinforcement Learning for Dynamic Pricing: Balancing Profitability,Stability and Fairness
本文通过模拟市场环境评估了多智能体强化学习方法在动态定价中的表现,发现MAPPO在盈利、稳定性和公平性方面表现更优。
2026-02-28 cs.AI cs.LG
Balancing the Scales: Enhancing Fairness in Facial Expression Recognition with Latent Alignment
Birla Institute of Technology and Science, Pilani(比拉理工科学与 Pilani 学院)
针对真实FER数据集因人工标注和群体表征不均导致的人口统计偏见与类别不平衡问题,本文提出基于隐空间的表征学习方法,以提升面部表情识别模型的公平性和整体准确率。
2024-10-25 cs.CV cs.LG
Fairness With Minimal Harm: A Pareto-Optimal Approach For Healthcare
Duke University(杜克大学)
机器学习中常见的公平性定义侧重于平衡差异和效用的概念。在这项工作中,我们研究的公平性的背景下,子人群之间的风险差距。我们对学习模型感兴趣,这些模型可以最大限度地减少敏感群体之间的性能差异,而不会造成不必要的伤害。这与医疗保健等高风险领域有关,在这些领域,不伤害是一项核心原则。我们正式使用帕累托边界这一目标,并提供分析,根据最近的作品在公平性,以避免方案完美的公平可能是不可行的,而不做不必要的伤害。我们提出了一种训练神经网络的方法,通过动态重新平衡子组风险来实现我们的目标。我们认为,即使在需要成本公平的领域,找到一个非不必要的伤害公平模型是最佳的初始步骤。我们在预测ICU患者死亡率的真实案例研究中证明了这种方法,并从皮肤镜图像中对皮肤病变进行分类。
2019-11-16 cs.LG stat.ML
RESFL: An Uncertainty-Aware Framework for Responsible Federated Learning by Balancing Privacy, Fairness and Utility
Virginia Tech(弗吉尼亚理工大学);U.S. Army Research Laboratory(美国陆军研究实验室)
RESFL框架通过结合对抗性隐私解耦和不确定性引导的公平性感知聚合,提升联邦学习中隐私与公平性的平衡,实验表明其在自动驾驶场景中提升了检测性能并降低了对抗攻击成功率。
2026-04-21 cs.CV cs.DC cs.ET
Mitigating Label Bias in Machine Learning: Fairness through Confident Learning
Hangzhou Dianzi University(杭州电子科技大学);University of Technology Sydney(悉尼科技大学);Huazhong University of Science and Technology(华中科技大学);Renmin University of China(中国人民大学)
本文提出在置信学习框架内通过截断置信度得分和扩展概率阈值置信区间,并结合协同教学范式,从有偏标签数据中筛选公平实例,以缓解标签偏差并提升模型公平性。
2023-12-24 cs.CY cs.LG
Balancing the Scales: Reinforcement Learning for Fair Classification
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);Utrecht University(乌得勒支大学)
针对分类任务的公平性问题,本文提出利用强化学习,通过缩放奖励函数并适配三种RL算法至上下文多臂老虎机框架,来缓解不平衡分类中的偏差。
2024-07-15 cs.CL cs.CY cs.LG
Balancing Profit and Fairness in Risk-Based Pricing Markets
Dalhousie University(达尔豪斯大学);McGill University(麦吉尔大学)
本文提出一种基于强化学习的可解释公平性税收方案,通过 MarketSim 模拟器和公司级局部人口统计差距约束,在健康保险与消费信贷市场中同时提升需求公平性和社会福利,实现利润与公平的双赢均衡。
2025-06-04 cs.AI cs.LG econ.GN
Weighted Sampled Split Learning (WSSL): Balancing Privacy, Robustness, and Fairness in Distributed Learning Environments
Saginaw Valley State University(萨吉诺谷州立大学);University of Nebraska at Kearney(内布拉斯加大学科尔尼分校)
本文提出加权采样分割学习(WSSL)框架,通过按客户端贡献进行加权采样,在分布式学习中兼顾隐私、鲁棒性与公平性,并在两个数据集上取得优于集中式方法的准确率。
2023-10-27 cs.AI cs.DC cs.LG
Balancing Utility and Fairness in Submodular Maximization (Technical Report)
East China Normal University(华东师范大学);Singapore Management University(新加坡管理大学);CENTAI Institute(CENTAI研究所);Eurecat(Eurecat技术中心)
针对子模最大化中效用与公平性难以兼顾的问题,提出双准则子模最大化(BSM)问题,并设计两种实例相关近似算法,在最大覆盖、影响力最大化和设施选址中验证了有效性。
2023-06-19 cs.DS cs.LG
FedPF: Accurate Target Privacy Preserving Federated Learning Balancing Fairness and Utility
The School of Computer Science, Shanghai Jiao Tong University, Shanghai, China(上海交通大学计算机科学学院,上海,中国);The Shanghai Key Laboratory of Integrated Administration Technologies for Information Security, Shanghai, China(上海信息安全集成管理技术重点实验室,上海,中国);The School of Science and Engineering, The Chinese University of Hong Kong, Shenzhen, China(香港中文大学(深圳)科学与工程学院,中国)
FedPF通过将多目标优化转化为零和博弈,平衡公平性与隐私保护,实验证明在严格隐私约束下仍能保持最低歧视水平和高效用,同时揭示了隐私和公平性需通过精心权衡而非单独优化。
2026-04-29 cs.AI cs.LG
Rethinking Fair Graph Neural Networks from Re-balancing
The Chinese University of Hong Kong(香港中文大学);University of Virginia(弗吉尼亚大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
针对图神经网络中的公平性问题,提出基于再平衡的FairGB方法,通过反事实节点混合和贡献对齐损失实现群体平衡,在效用和公平性上达到最先进水平。
2024-07-16 cs.AI cs.CY cs.LG
Balancing Performance and Fairness in Explainable AI for Anomaly Detection in Distributed Power Plants Monitoring
African Institute for Mathematical Sciences (AIMS)(非洲数学科学研究所);Rhodes University(罗德斯大学);National Institute for Theoretical and Computational Sciences (NITheCS)(国家理论与计算科学研究所);Ludwig Maximilian University of Munich(慕尼黑路易斯·马克西米利安大学);University of Ferrara(费拉拉大学)
本文提出结合集成方法和先进重采样技术的监督机器学习框架,通过SHAP和DIR提升可解释性和公平性,实验表明LightGBM在性能和公平性上表现优异,为工业电力管理提供更公平的AI解决方案。
2026-03-19 cs.LG
Learning Fair Representations with High-Confidence Guarantees
University of Massachusetts(马萨诸塞大学);Berkeley Existential Risk Initiative(伯克利生存风险倡议)
本文正式定义了以高置信度学习公平表示的问题,提出了FRG框架,为限制所有下游模型和任务的不公平性提供用户定义上限的高置信度保证,并经理论和实证评估验证了其有效性。
2023-10-23 cs.CY cs.LG stat.ML
False Confidence: Automated Labels Confound Fairness Audits in Cervical Spine Segmentation
Section for Visual Computing, DTU Compute, Technical University of Denmark(视觉计算部门,丹麦技术大学)
研究针对颈椎MRI分割无公平性审计的问题,利用CSpineSeg数据集进行审计,发现参考标签选择非中立,银标签会使模型性能高估、公平性判定改变,指出参考标签来源是分割评估的混杂因素,应依专家标签报告性能与公平性并说明参考来源。
2026-07-10 cs.CV cs.CY cs.LG
Fairness without Sensitive Attributes via Knowledge Sharing
The University of Queensland(昆士兰大学)
本文提出基于置信度的层次化分类器Reckoner,通过高置信度模型向低置信度模型进行知识共享,在敏感属性缺失条件下实现公平学习,并在COMPAS和New Adult数据集上同时优于现有基线。
2024-09-27 cs.LG
Can Less be More? When Increasing-to-Balancing Label Noise Rates Considered Beneficial
University of California, Santa Cruz(加州大学圣克鲁兹分校)
在本文中,我们回答了插入标签噪声(信息量较少的标签)何时可以返回更准确和公平的模型。我们主要受到三个观察结果的启发:1)与降低标签噪声率相比,增加噪声率更容易实现; 2)增加某类实例的标签噪声以平衡噪声率(增加到平衡)导致更容易的学习问题; 3)增加到平衡提高了对标签偏见的公平性保证。在本文中,我们首先量化的权衡引入增加一定组的实例的标签噪声率w.r.t.标签信息量的损失和学习难度的降低。我们分析表明,当这样的增加是有益的,无论是提高泛化能力或公平性保证。然后,我们提出了一种方法来插入标签噪声正确的学习任务与嘈杂的标签,无论是没有或有公平性约束。我们面临的主要技术挑战是由于我们不知道哪些数据实例受到更高噪声的影响,并且我们没有地面真值标签来验证任何可能的假设。我们提出了一种检测方法,该方法可以在不使用地面真实标签的情况下通知我们哪组标签可能会遭受更高的噪声。我们正式建立所提出的解决方案的有效性,并证明了它与广泛的实验。
2021-11-08 cs.LG stat.ML
CATTO: Balancing Preferences and Confidence in Language Models
Adobe
CATTO通过校准意识的标记级训练目标,在保持任务准确性的同时,有效提升语言模型预测信心,减少校准误差,提高输出选择的可靠性。
2026-02-02 cs.LG
Fairness-Aware Graph Representation Learning with Limited Demographic Information
Florida International University(佛罗里达国际大学);University of New Mexico(新墨西哥大学);Boise State University(博伊西州立大学);University of Louisville(路易斯维尔大学)
本文提出FairGLite框架,在有限人口信息下减轻图学习中的偏见,通过生成人口信息代理和自适应置信度策略,实现公平性和效用的平衡。
2025-12-26 cs.CY cs.LG
Towards Accuracy-Fairness Paradox: Adversarial Example-based Data Augmentation for Visual Debiasing
Beijing Jiaotong University(北京交通大学);Peng Cheng Laboratory(鹏城实验室)
机器学习公平性关注的是在处理目标任务时对某些受保护或敏感人群的偏见。本文研究了图像分类任务背景下的去偏问题。我们对面部属性识别的数据分析表明:(1)来自不平衡的训练数据分布的模型偏差的属性和(2)对抗性示例在平衡数据分布方面的潜力。因此,我们有动机采用对抗性的例子来增加训练数据的视觉去偏。具体来说,为了确保对抗性泛化以及跨任务可移植性,我们建议将目标任务分类器训练,偏见任务分类器训练和对抗性示例生成的操作耦合起来。生成的对抗性示例通过在线平衡偏差变量的分布来补充目标任务训练数据集。仿真和真实世界的去偏实验结果表明,该解决方案的有效性,同时提高模型的准确性和公平性。初步实验进一步表明,基于对抗攻击的伪样本生成作为替代解决方案,以弥补训练数据不足的潜力。
2020-08-13 cs.CV cs.LG
Avoiding Structural Failure Modes in Tabular Fair SSL: Online Primal-Dual Allocation under Confidence Gating
College of Computer Science and Technology, Jilin University, China(吉林大学计算机科学与技术学院);Key Laboratory of Symbolic Computation and Knowledge Engineering of the Ministry of Education, Jilin University, China(教育部符号计算与知识工程重点实验室)
针对表格公平半监督学习中的结构冲突,提出在线原始-对偶分配(OPDA)方法,通过动态调度公平性和熵稳定性惩罚,避免掩码崩溃和平凡饱和两种失效模式,在多个基准上实现非退化运行点。
2026-06-01 cs.AI cs.LG
Fair Best Arm Identification with Fixed Confidence
Ericsson AB(爱立信公司);Ericsson Research(爱立信研究院)
本文研究公平性约束下的最佳臂识别问题,提出 F-BAI 框架并给出样本复杂度下界,进而设计可证明匹配该下界且满足公平约束的 F-TaS 算法,实验验证了其高效性。
2024-08-30 cs.AI cs.LG
The Confidence Trap: Gender Bias and Predictive Certainty in LLMs
本研究探讨大语言模型在性别偏见任务中的置信度校准问题,提出Gender-ECE指标以评估公平性差异,发现Gemma-2在性别偏见基准中校准最差。
2026-01-12 cs.CL cs.LG
Fair Representation Learning with Controllable High Confidence Guarantees via Adversarial Inference
Rutgers University(罗格斯大学);Sony AI(索尼人工智能);University of Massachusetts Amherst(马萨诸塞大学阿姆赫斯特分校);University College Dublin(都柏林大学);University of Massachusetts(马萨诸塞大学)
本文提出FRG框架,通过对抗推理为表示学习提供可控高置信度的公平性保证,确保下游预测中群体差异不超过用户定义阈值,并在三个数据集上优于六种基线方法。
2025-10-23 cs.LG
Fairness-in-the-Workflow: How Machine Learning Practitioners at Big Tech Companies Approach Fairness in Recommender Systems
Cornell University(康奈尔大学);Loyola University Maryland(洛约拉大学马里兰州)
研究探讨了大型科技公司如何在推荐系统中处理公平性,识别了技术团队与法律、数据团队在公平性工作中的挑战,并提出可行的实践建议。
2026-02-27 cs.AI cs.CY cs.HC
AI Fairness: from Principles to Practice
Accenture(埃森哲);Lancaster University(兰卡斯特大学)
本文总结和评价了人工智能(AI)系统中追求公平性的各种途径、方法和技术。它研究了这些措施的优点和缺点,并提出了定义,测量和防止AI偏见的实用指南。特别是,它警告不要使用一些简单但常见的方法来评估人工智能系统中的偏见,并提供更复杂和有效的替代方案。本文还通过在高影响力人工智能系统的不同利益相关者之间提供共同语言,解决了该领域广泛存在的争议和困惑。它描述了涉及AI公平性的各种权衡,并提供了平衡它们的实用建议。它提供了评估公平目标的成本和收益的技术,并定义了人类判断在设定这些目标中的作用。本文为人工智能从业者、组织领导者和政策制定者提供了讨论和指导方针,并为技术性更强的受众提供了指向其他材料的各种链接。提供了许多真实世界的例子,以澄清概念,挑战和建议,从实践的角度来看。
2022-07-20 cs.AI cs.CY cs.LG
Latent space bias directions in LLMs capture confidence, not fairness
Institute of Astronomy & Kavli Institute for Cosmology, University of Cambridge(剑桥大学天文学研究所及卡夫利宇宙学研究所);Risk and Security AI Lab, Visa Inc.(Visa公司风险与安全人工智能实验室)
本文分析激活引导的去偏方向,发现其主要由模型置信度主导而非公平性,引导降低偏差是通过降低置信度甚至导致弃权,提示基于引导的去偏结果需谨慎解读。
2026-10-07 cs.AI cs.CL cs.LG
Counterfactual Fairness with Graph Uncertainty
Instituto Superior Técnico(里斯本技术高等学院);Instituto de Telecomunicações(电信研究所);Fraunhofer Portugal AICOS(弗劳恩霍夫葡萄牙AICOS研究所)
本文提出CF-GU方法,通过整合因果图的不确定性,提升反事实公平性评估的鲁棒性和准确性。
2026-01-06 cs.AI cs.CY cs.LG
Let's Unlearn Stereotypes Before Decision-Making: Assessing the Impact of Intrinsic Bias Mitigation on Downstream Fairness in LLMs
本研究提出公平感知概念忘却(FACU)方法,在保留预测性能的同时缓解LLM内在偏差,可提升下游公平性,结合反事实数据增强效果更佳,为LLM公平性优化提供了新路径。
2026-08-10 cs.CL cs.CY cs.LG
Fairness Warnings and Fair-MAML: Learning Fairly with Minimal Data
University of California, Irvine(加州大学欧文分校);Haverford College(哈弗福德学院)
出于对共享和传输公平机器学习工具的公平性影响的关注,我们提出了两种算法:公平性验证和公平MAML。第一种是模型不可知的算法,它提供了可解释的边界条件,当一个经过良好训练的模型在给定域中的类似但略有不同的任务上可能表现不佳时。第二个是一个公平的元学习方法来训练模型,可以快速微调到特定的任务,从只有少数样本实例,同时平衡公平性和准确性。我们使用相关基线通过实验证明了每个模型的个体效用,并提供了我们对K-shot公平性知识的第一个实验,即在只有K个数据点的新任务上训练公平模型。然后,我们说明了这两种算法作为一种组合方法的有用性,用于从新任务的几个数据点训练模型,同时使用公平性检验作为可解释的边界条件,在这种条件下,新训练的模型可能不公平。
2019-12-05 cs.LG stat.ML
FairAgent: Democratizing Fairness-Aware Machine Learning with LLM-Powered Agents
Clemson University USA(卡罗来纳州克莱姆森大学);University of Arkansas USA(阿肯色大学)
针对公平感知机器学习开发门槛高的问题,提出由LLM驱动的FairAgent系统,可自动完成偏差分析、数据处理与缓解策略实施,在提升性能的同时降低开发难度与成本。
2025-10-05 cs.AI cs.LG
FairEnergy: Contribution-Based Fairness meets Energy Efficiency in Federated Learning
FairEnergy通过整合贡献评分优化设备选择、带宽分配和压缩级别,实现联邦学习中的公平性与能效的平衡,实验表明其在非IID数据上能提升精度并显著降低能耗。
2025-11-19 cs.LG
Evaluating Fairness in Transaction Fraud Models: Fairness Metrics, Bias Audits, and Challenges
University of Cambridge(剑桥大学)
本文首次利用公开合成数据集审计交易欺诈模型的算法偏见,揭示类别不平衡、服务质量与欺诈防护指标中的偏见及移除敏感属性失效等问题。
2024-09-06 cs.LG
Is Your Classifier Actually Biased? Measuring Fairness under Uncertainty with Bernstein Bounds
Stanford University(斯坦福大学)
大多数NLP数据集都没有使用受保护的属性(如性别)进行注释,因此很难使用标准的公平性度量(例如,机会均等)。但是,手动注释具有受保护属性的大型数据集是缓慢且昂贵的。我们能不能不标注所有的例子,而是标注其中的一个子集,并使用该样本来估计偏差?虽然有可能这样做,但注释样本越小,我们就越不确定估计值是否接近真实偏倚。在这项工作中,我们建议使用伯恩斯坦界来表示这种不确定性的偏差估计的置信区间。我们提供的经验证据表明,以这种方式得出的95%置信区间始终是真实偏倚的界限。在量化这种不确定性时,我们称之为伯恩斯坦有界不公平的方法有助于防止分类器在没有足够的证据做出任何声明时被认为是有偏见或无偏见的。我们的研究结果表明,目前用于测量特定偏差的数据集太小,无法最终确定偏差,除非在最严重的情况下。例如,考虑一个共指消解系统,它在性别刻板印象句子上的准确率要高出5%--要声称它有95%的置信度,我们需要一个比WinoBias大3.8倍的特定于偏见的数据集。
2020-04-26 cs.CL cs.LG
Balancing Classification and Calibration Performance in Decision-Making LLMs via Calibration Aware Reinforcement Learning
University of Southern California(南加州大学);AWS AI Labs(AWS AI实验室)
本文提出一种校准感知强化学习方法,通过调整决策标记概率,在保持准确性的同时减少过度自信,提升决策LLM的校准性能。
2026-01-19 cs.LG
Model-agnostic bias mitigation methods with regressor distribution control for Wasserstein-based fairness metrics
Discover Financial Services(发现金融服务公司)
这篇文章是我们早期工作Miroshnikov et al.(2021)关于公平性可解释性的姊妹篇,其中介绍了偏见解释。在目前的工作中,我们提出了一个偏见缓解方法的基础上,建设后处理模型,更公平的回归分布的Wasserstein为基础的公平性指标。通过识别对偏差贡献最大的预测因子列表,我们通过减轻源自这些预测因子的偏差来降低问题的维度。后处理方法包括通过平衡正偏差和负偏差解释来重塑预测分布,并允许回归偏差降低。我们设计了一个算法,使用贝叶斯优化构造的偏差性能的有效前沿的家庭后处理模型,从其中选择一个最佳的模型。我们的新方法在低维空间中进行优化,避免了昂贵的模型再训练。
2021-11-19 cs.LG math.PR
Enforcing Delayed-Impact Fairness Guarantees
Manning College of Information and Computer Sciences(曼宁信息与计算机科学学院);University of Massachusetts(马萨诸塞大学)
最近的研究表明,看似公平的机器学习模型,当用于为影响人们生活或福祉的决策提供信息时(例如,涉及教育、就业和贷款的应用),从长远来看,可能会无意中增加社会不平等。这是因为先前的公平感知算法只考虑静态公平约束,例如平等机会或人口统计学奇偶性。然而,强制执行这类限制可能会导致对弱势个人和社区产生长期负面影响的模式。我们引入ELF(强制长期公平),这是第一个在长期或延迟影响方面提供高置信度公平保证的分类算法。我们证明了ELF返回一个不公平的解决方案的概率小于用户指定的公差和(在温和的假设下),有足够的训练数据,ELF是能够找到并返回一个公平的解决方案,如果存在的。我们的实验表明,我们的算法可以成功地减轻长期的不公平。
2022-08-24 cs.AI cs.CY cs.LG
Inherent Trade-offs in the Fair Allocation of Treatments
University of Southern California(南加利福尼亚大学);USC Information Sciences Institute(南加利福尼亚大学信息科学研究所)
显性和隐性的偏见蒙蔽了人的判断,导致对少数群体的歧视性待遇。算法公平性的一个基本目标是通过学习改善总体结果的策略,同时为受保护的类提供公平待遇,从而避免人类判断中的陷阱。在本文中,我们提出了一个因果框架,学习最优的干预政策,从数据的公平性约束。我们定义了两种治疗偏倚的测量方法,并推断出最佳治疗分配,最大限度地减少偏倚,同时优化总体结局。我们证明,有一个平衡的公平和整体利益的困境,但是,允许优惠待遇,在某些情况下(平权行动)的保护类可以显着提高整体利益,同时也保持公平。我们将我们的框架应用于包含学生标准化考试成绩的数据,并展示了如何使用它来设计现实世界的政策,以公平地提高学生的考试成绩。我们的框架提供了一种原则性的方法来学习现实世界中的公平待遇政策。
2020-10-30 cs.AI cs.CY cs.LG
Toward a Fairness-Aware Scoring System for Algorithmic Decision-Making
Xi’an Jiaotong-Liverpool University(西交利物浦大学);Xi’an Jiaotong University(西安交通大学);University of Oklahoma(俄克拉荷马大学);University of Washington(华盛顿大学)
评分系统作为一种预测模型,在可解释性和透明度方面具有显著优势,并有助于快速决策。因此,评分系统已广泛用于各种行业,如医疗保健和刑事司法。然而,这些模型中的公平性问题长期以来一直受到批评,大数据和机器学习算法在评分系统构建中的使用加剧了这种担忧。在本文中,我们提出了一个通用的框架来创建公平意识,数据驱动的评分系统。首先,我们开发了一个社会福利函数,它包含了效率和群体公平。然后,我们将社会福利最大化问题转化为机器学习中的风险最小化问题,并借助混合整数规划方法推导出一个公平性感知的评分系统。最后,几个理论界的推导提供参数选择建议。我们提出的框架提供了一个合适的解决方案,以解决群体公平性的问题,在发展的评分系统。它使决策者能够设置和定制他们想要的公平性要求以及其他特定于应用的约束。我们测试所提出的算法与几个经验数据集。实验证据支持建议的评分系统在实现利益相关者的最佳福利和平衡的可解释性,公平性和效率的需求的有效性。
2022-11-22 cs.LG stat.ME
Loss Balancing for Fair Supervised Learning
Yahoo Research(雅虎研究院);The Ohio State University(俄亥俄州立大学);Optum Labs(奥普特姆实验室);Alan Turing Institute(艾伦·图灵研究所)
针对监督学习的偏见问题,本文聚焦均等损失(EL)公平约束,提出ELminimizer算法将非凸优化转化为凸优化序列,用现成工具求全局最优,经理论证明与实证验证有效。
2023-11-07 cs.AI cs.LG
Network Revenue Management with Demand Learning and Fair Resource-Consumption Balancing
New York University(纽约大学);Tsinghua University(清华大学);University of Texas at Dallas(德克萨斯大学达拉斯分校)
本文研究了基于价格的网络收益管理问题,通过引入正则化收益目标,提出了一种结合UCB需求学习的原始对偶型在线策略,在实现收益最大化的同时兼顾公平资源消耗平衡,并实现了 $\widetilde O(N^{5/2}\sqrt{T})$ 的最坏情况后悔界。
2023-09-08 cs.CY cs.LG stat.ML
FERI: A Multitask-based Fairness Achieving Algorithm with Applications to Fair Organ Transplantation
The University of Texas Health Science Center at Houston(德克萨斯大学休斯顿健康科学中心)
针对肝移植预测模型中的公平性问题,提出FERI算法,通过平衡多任务学习率约束亚组损失,在不损失预测准确率的前提下显著提升了不同敏感属性亚组间的公平性。
2024-08-27 cs.AI cs.LG
Balancing Performance and Costs in Best Arm Identification
Department of Statistics University of Wisconsin-Madison(统计学系威斯康星大学麦迪逊分校)
本文提出了一种新的最佳臂识别方法,通过平衡性能和成本来优化学习过程,提出了 DBCARE 算法并展示了其在模拟模型中的优越性能。
2025-12-05 cs.LG stat.ML
Long-term Fairness with Selective Labels
Department of Computer Science, Saarland University, Saarbrücken, Germany(萨尔布吕肯大学计算机科学系)
本文研究了在选择性标签设置下长期公平性的问题,提出了一种新的框架,通过结合观测数据和标签预测模型来估计真实的公平性度量,并提出了一种新的强化学习算法以实现有效长期公平决策。
2026-05-21 cs.LG
Quantum Machine Learning for Secure Cooperative Multi-Layer Edge AI with Proportional Fairness
School of Computing and Information Technology, University of Wollongong(计算机与信息科技学院,沃林戈恩大学)
本文提出一种通信高效的事件触发协作边缘AI推理框架,将双阈值提前退出策略扩展到多设备场景并引入比例公平约束,通过交替优化与Benders分解求解联合优化问题,实验证明其显著提升系统性能与资源分配公平性。
2025-07-20 cs.LG cs.NI