On the Correlation between Individual Fairness and Predictive Accuracy in Probabilistic Models
IDSIA USI-SUPSI(IDSIA USI-SUPSI 研究所);SUPSI(瑞士南部应用科学与艺术大学)
通过分析后验推断对私有特征扰动的鲁棒性,研究生成式概率分类器的个体公平性,证实鲁棒性与预测准确性正相关,为缓解公平性与准确性的权衡提供新方向。
2025-09-16 cs.AI cs.LG
Evaluation of Fairness Trade-offs in Predicting Student Success
Cornell University(康奈尔大学)
早期识别有风险学生的预测模型可以帮助教学人员引导资源,以更好地支持他们,但人们越来越担心教育中算法系统的公平性。预测模型可能会无意中在谁获得支持方面引入偏见,从而加剧现有的不平等。我们通过建立一个基于大学行政记录的学生成功预测模型来研究这个问题。我们发现,该模型表现出性别和种族偏见的三分之二的公平措施考虑。然后,我们应用事后调整,以提高模型的公平性,突出三个公平措施之间的权衡。
2020-06-30 cs.CY cs.LG
Assessing Predictive Models for Fairness Based on Activity-Space Patterns
University of Padua(帕多瓦大学)
针对预测模型的空间公平性,提出将公平性概念从单一地理位置扩展到移动模式,并采用空间扫描统计方法检测基于移动模式的不公平性。
2026-09-11 cs.CY cs.LG
Auditing the Imputation Effect on Fairness of Predictive Analytics in Higher Education
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
学院和大学以各种方式使用预测分析来提高学生的成功率。尽管预测分析具有潜力,但在高等教育中采用它们存在两个主要障碍:(a)部署缺乏民主化,(b)可能加剧不平等。教育研究人员和政策制定者在实践中部署预测建模时遇到了许多挑战。这些挑战存在于建模的不同步骤中,包括数据准备、模型开发和评估。然而,如果执行不当,这些步骤中的每一个都可能给系统引入额外的偏倚。大多数大规模和具有全国代表性的教育数据集都受到研究参与者大量不完整答复的困扰。虽然许多与教育相关的研究解决了缺失数据的挑战,但在实践中,处理缺失值对预测结果公平性的影响知之甚少。在本文中,我们首先评估了大学生成功预测建模结果的差异,然后使用一组常用的指标来研究插补技术对模型性能和公平性的影响。我们进行前瞻性评估,以提供比历史数据评估更少的未来绩效和公平性偏差估计。我们对一个真实的大规模教育数据集的全面分析揭示了建模差异的关键见解,以及插补技术如何影响不同测试场景下学生成功预测结果的公平性。我们的研究结果表明,如果测试集遵循历史分布,插补会引入偏倚。然而,如果社会中的不公正得到解决,因此即将到来的一批观察结果是平等的,模型将减少偏见。
2022-12-29 cs.CY cs.LG
Achieving Group Fairness through Independence in Predictive Process Monitoring
Research Center for Information Systems Engineering (LIRIS)(信息系统工程研究中心(LIRIS));KU Leuven(根特大学)
本研究通过确保预测不受敏感群体成员身份影响的独立性,解决预测性过程监控中的群体公平性问题,提出结合二元交叉熵和Wasserstein分布损失的复合损失函数,在受控实验中有效平衡了预测性能与公平性。
2025-04-28 cs.LG stat.ML
A Three-Way Knot: Privacy, Fairness, and Predictive Performance Dynamics
Faculty of Computer Science, University of Porto(波尔图大学计算机科学学院);Lucy Family Institute for Data & Society, University of Notre Dame(圣母大学露西家族数据与社会研究院);TekPrivacy
本文研究了机器学习中隐私、公平性和预测性能之间的三向张力,发现三者无法同时优化,联合优化方案可减小权衡。
2023-06-27 cs.LG
The Confidence Trap: Gender Bias and Predictive Certainty in LLMs
本研究探讨大语言模型在性别偏见任务中的置信度校准问题,提出Gender-ECE指标以评估公平性差异,发现Gemma-2在性别偏见基准中校准最差。
2026-01-12 cs.CL cs.LG
FairLoop: Software Support for Human-Centric Fairness in Predictive Business Process Monitoring
University of Applied Science Hof(应用科学大学霍夫);Friedrich-Alexander-University Erlangen-Nuremberg(埃尔朗根-纽伦堡弗里德里希-亚历山大大学);University of Bayreuth(拜鲁特大学)
FairLoop 通过从神经网络蒸馏决策树并由人类修改不公平逻辑后微调原模型,实现预测性业务流程监控中上下文感知的公平性偏差缓解。
2025-08-27 cs.LG
Characterizing Fairness Over the Set of Good Models Under Selective Labels
Carnegie Mellon University(卡内基梅隆大学);Harvard University(哈佛大学)
军事风险评估用于在各种高风险环境中为决策提供信息。通常,多个预测模型提供相似的整体性能,但在个别情况下,它们的预测显着不同,这种经验现象被称为“罗生门效应”。“这些模型在不同的群体中可能具有不同的属性,因此具有不同的预测公平性。我们开发了一个框架,用于表征提供类似整体性能的模型集或“良好模型集”上的预测公平性。“我们的框架解决了在选择决策和结果不受观察到的数据特征影响的情况下选择性标记数据的经验相关挑战。我们的框架可用于1)用具有更好公平性的模型替换现有模型;或2)审计预测偏差。我们在现实世界的信用评分任务和累犯预测任务上说明了这些用例。
2021-05-01 cs.LG stat.ML
An Operational Perspective to Fairness Interventions: Where and How to Intervene
LinkedIn(领英);Columbia University(哥伦比亚大学)
随着基于人工智能的决策系统的激增,它们的成功运作需要平衡多个必要条件:预测性能、群体间的差异、保护敏感的群体属性(例如,#21453;,以及工程成本。我们提出了一个整体的框架,评估和情境化的公平性干预措施,就上述desiderata。实际考虑的两个关键点是\emph{where}(预处理、中处理、后处理)和\emph{how}(以何种方式使用敏感组数据)。我们展示了我们的框架与预测奇偶校验的案例研究。在其中,我们首先提出了一种新的方法,通过分布鲁棒优化实现预测奇偶校验公平性,而无需在推理时使用组数据。然后,我们在两种主要模型类型(XGBoost与神经网络)、十个数据集和二十多种独特方法的近400种变化的基准研究中展示了这些方法的有效性。从我们的实证研究中获得的方法论见解为ML工作流的实际设计提供了信息,其中公平性是一个核心问题。我们发现,如果不使用组数据,预测奇偶校验很难实现,尽管在模型训练(而不是推理)期间需要组数据,但我们开发的分布鲁棒方法提供了显着的帕累托改进。此外,一个普通的XGBoost模型通常会在公平性干预的情况下对神经网络进行帕累托支配,这突出了模型归纳偏差的重要性。
2023-03-23 cs.LG
Explainable AI for Fair Sepsis Mortality Predictive Model
College of Computing & Informatics, Drexel University(德雷塞尔大学计算与信息学院)
针对医疗AI公平性与可解释性需求,聚焦败血症死亡率预测,提出先优化性能模型再通过迁移学习提升公平性的方法,并引入基于排列的特征重要性算法解释特征对公平性的贡献,填补相关空白。
2024-04-19 cs.AI cs.LG
A Model Ensemble-Based Post-Processing Framework for Fairness-Aware Prediction
本文提出一种基于模型集成的后处理框架,用于提升预测中的公平性,通过实验验证该框架在分类、回归和生存分析中能有效提升公平性同时保持预测准确性。
2026-10-16 cs.LG stat.ML
Fairness-Optimized Synthetic EHR Generation for Arbitrary Downstream Predictive Tasks
University of Delaware(德克萨斯大学)
提出一种与任务和模型无关的合成EHR数据生成流水线,在保持与真实数据一致的同时减少下游任务的公平性问题,为健康AI应用提供广泛适用的公平性优化工具。
2025-06-27 cs.LG
Overcoming Fairness Trade-offs via Pre-processing: A Causal Perspective
Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
本文从因果视角提出FiND世界框架,通过因果预处理方法近似该世界,在理论上证明并实证验证了该方法能同时解决公平性与准确性权衡以及不同公平性指标间的不兼容性。
2025-01-24 cs.LG stat.ML
Arbitrariness Lies Beyond the Fairness-Accuracy Frontier
JPMorgan Chase Bank, N.A.(摩根大通银行);John A. Paulson School of Engineering and Applied Sciences, Harvard University(哈佛大学约翰·A·保尔森工程与应用科学学院)
本研究发现仅优化群体公平性与准确率的公平性干预会加剧预测多样性,掩盖模型任意性,为此提出适用于各类公平性干预的集成算法,以提升预测一致性。
2023-06-15 cs.CY cs.IT cs.LG
Auditing Predictive Models for Intersectional Biases
Machine Learning for Good Laboratory(向善机器学习实验室);New York University(纽约大学);Harvard Business School(哈佛商学院)
针对交叉性偏见风险,提出条件偏见扫描(CBS)审计框架,能识别分类模型中受保护类别与非受保护类别间偏见最显著的子群体,并在COMPAS工具上验证了其高检测能力。
2023-06-22 cs.LG
Strategic Demonstration Selection for Improved Fairness in LLM In-Context Learning
University of Bristol(布里斯托尔大学);New Jersey Institute of Technology(新泽西理工学院)
本研究探究上下文学习提示中示范样本对大语言模型公平性的影响,提出结合聚类与进化策略的样本筛选方法,在保障预测准确率的同时有效提升模型公平性。
2024-08-19 cs.CL cs.CY cs.LG
Is Your Model "MADD"? A Novel Metric to Evaluate Algorithmic Fairness for Predictive Student Models
Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心);LIP6(巴黎第六大学信息学实验室)
针对教育领域现有公平性指标仅关注预测性能偏差、未考虑模型行为与偏差严重程度的问题,提出MADD指标及可视化分析方法,实验验证了预测性能公平不代表行为公平,可用于优化模型选择与使用。
2023-07-21 cs.CY cs.LG stat.ML
The Fairness of Risk Scores Beyond Classification: Bipartite Ranking and the xAUC Metric
Cornell University(康奈尔大学)
在机器学习的预测风险评分为高风险决策提供信息的情况下,例如刑事司法中的保释和判刑,公平性一直是一个严重的问题。最近的工作的特点是不同的影响,这种风险分数可以有一个二元分类任务时使用。然而,这可能无法解释风险评分的下游用途更加多样化及其非二元性质。为了更好地解释这一点,在本文中,我们调查的角度来看,一个二分排序任务,其中一个试图排名积极的例子高于消极的预测风险分数的公平性。我们引入xAUC差异作为评估风险评分的不同影响的指标,并将其定义为将一个受保护组的随机阳性样本排名在另一组的阴性样本之上的概率差异,反之亦然。我们提供了一个分解的二分排名损失的组件,涉及的差异和组件,涉及每个组内的纯预测能力。我们使用xAUC分析来审计累犯预测,收入预测和心脏骤停预测的预测风险评分,其中它描述了简单比较组内预测性能并不明显的差异。
2019-06-01 cs.LG stat.ML
Aggregating Concepts of Fairness and Accuracy in Prediction Algorithms
Washington University in St.\ Louis St.\ Louis MO USA;Washington University in St.\ Louis
本文针对预测算法中准确性与公平性目标冲突及多指标聚合缺乏准则的问题,基于Harsanyi经典结果论证应使用准确性与公平性指标的线性组合衡量算法价值,并在COMPAS数据集上分析了准确性-公平性权衡。
2025-07-05 cs.AI cs.LG
A Comparative Simulation Study of the Fairness and Accuracy of Predictive Policing Systems in Baltimore City
University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)
本研究通过比较巴尔的摩市预测警务与热点警务的公平性和准确性,揭示了预测警务在短期更优但长期可能加剧偏见的问题。
2026-01-30 cs.AI cs.CY cs.LG
FASE : A Fairness-Aware Spatiotemporal Event Graph Framework for Predictive Policing
Department of Information Systems University of Maryland, Baltimore County(信息系统系马里兰大学巴尔的摩分校);Department of Statistics Jagannath University(统计系贾甘纳思大学);MBBS Shaheed M. Monsur Ali Medical College(谢赫莫纳斯尔阿里医学院)
FASE框架整合时空犯罪预测与公平性约束的巡逻分配,通过闭环反馈模拟器减少数据偏见对种族差异的放大效应。
2026-04-22 cs.AI cs.LG
An Experimental Study on Fairness-aware Machine Learning for Credit Scoring Problems
Banking Academy of Vietnam(越南银行学院);Vietnam Academy of Science and Technology(越南科学技术 academy);Hanoi University of Science and Technology(河内科学技术大学);University of Koblenz(科隆大学)
本文研究信用评分中公平性意识机器学习的关键方面,评估公平性模型与传统分类模型的平衡性,发现公平性模型在预测准确性和公平性间取得更好平衡。
2026-03-05 cs.CY cs.LG stat.ML
The Equity Framework: Fairness Beyond Equalized Predictive Outcomes
Toyota Technological Institute at Chicago(芝加哥丰田技术研究所);University of California at Irvine(加州大学欧文分校)
机器学习(ML)决策算法现在被广泛用于预测决策,例如,确定谁可以录取和贷款。它们的广泛使用和对个人的影响导致ML社区质疑并关注算法如何不同地影响不同的人和社区。在本文中,我们研究的公平性问题时出现的决策者使用的模型(代理模型),偏离模型,描绘的物理和社会环境中的决策(预期模型)。我们还强调了障碍对个人访问和利用模型的影响。为此,我们制定了一个公平框架,该框架考虑了平等进入模型,平等的模型结果,平等地利用模型,从而实现公平和比目前以平等为目标的公平概念更高的社会福利。我们展示了框架的三个主要方面是如何联系在一起的,并提供了一个公平的评分算法和问题,以指导决策者对公平的决策。我们展示了如何不考虑访问,结果和利用将加剧代理差距,导致无限的不公平循环,通过不准确和不完整的地面真相策展加强结构性不平等。因此,我们建议更严格地审视模型设计及其对公平的影响,并转向公平实现预测决策模型。
2022-04-18 cs.AI cs.CY cs.LG
Algorithmic Fairness in Performative Policy Learning: Escaping the Impossibility of Group Fairness
University of Michigan(密歇根大学)
研究预测模型影响目标分布的表演性问题,提出利用政策制定者引导人群的能力来缓解长期不平等,从而在社会分类问题中实现更强的群体公平性保证,并解决不同公平性定义间的冲突。
2024-05-30 cs.CY cs.LG stat.ML
Balancing Fairness and Performance in Healthcare AI: A Gradient Reconciliation Approach
College of Computing & Informatics, Drexel University(计算与信息学院,德雷塞尔大学)
针对医疗AI公平性缺失问题,提出梯度调和框架FairGrad,通过正交投影平衡性能与多属性公平,在SUD和脓毒症任务上显著提升公平指标且保持准确率。
2025-04-19 cs.CY cs.LG
Counterfactual Methods for Detecting Unfairness in Anti-Money Laundering Algorithms
IDSIA;UBS Switzerland AG and its affiliates(UBS瑞士集团及其附属公司)
研究利用反事实方法,通过合成数据集构建账户国家及平均行为等特征,提升多种机器学习模型预测性能,并通过反事实路径特定效应分析评估潜在不公平性,揭示预测准确性与公平性的权衡。
2026-07-07 cs.LG
Exploring Equality: An Investigation into Custom Loss Functions for Fairness Definitions
本文首次将 Group Accuracy Parity 框架应用于 COMPAS,通过定制损失函数和 Pareto 前沿分析,证明其在公平性与准确性之间取得了比传统公平性定义更好的平衡,同时指出算法改进之外还需法律和制度变革。
2025-01-03 cs.CY cs.LG
FairSelect: A Systematic Evaluation of Multi-Level and Intersectional Algorithmic Fairness
研究针对算法公平性方法多孤立单轴评估的局限,提出FairSelect工具包,支持多模型架构等评估。通过合成与真实临床数据集验证,发现公平干预相互作用方式复杂,该工具包能系统识别策略,兼顾临床机器学习中群体公平与模型性能。
2026-07-13 cs.LG
Exploring the impact of fairness-aware criteria in AutoML
University of Coimbra, CISUC/LASI – Centre for Informatics and Systems of the University of Coimbra(科英布拉大学,CISUC/LASI – 科英布拉大学信息与系统中心)
本文研究了在AutoML框架中直接整合公平性对构建完整ML流水线的影响,通过引入互补公平性指标提升了公平性,尽管预测性能略有下降,但公平性显著提高,且数据使用减少。
2026-04-11 cs.AI cs.LG
Evolved Sample Weights for Bias Mitigation: Effectiveness Depends on the Fairness Objective
Cedars-Sinai Medical Center, Los Angeles(西德萨斯-辛AI医疗中心,洛杉矶);University of California, Los Angeles(加州大学洛杉矶分校)
本文研究了通过遗传算法进化样本权重以平衡公平性与预测性能的效果,发现公平性目标的选择显著影响结果。
2026-03-18 cs.AI cs.LG cs.NE
Fairness Evaluation with Item Response Theory
RMIT University(RMIT大学);Data61, CSIRO(Data61、联邦科学与工业研究组织);Universität der Bundeswehr München(慕尼黑联邦国防军大学)
本文提出Fair-IRT框架,首次将项目反应理论应用于公平性评估,通过提取预测模型的公平预测能力及个体的区分度和难度参数,并利用项目特征曲线的平坦度解耦不公平性,实验和案例研究验证了其在分类与回归任务中的有效性。
2024-10-20 cs.CY cs.LG
Consistent Range Approximation for Fair Predictive Modeling
University of California, San Diego(加州大学圣地亚哥分校);Cornell University(康奈尔大学)
本文提出一致范围近似(CRA)框架,利用数据收集背景知识与有偏数据计算公平性查询范围,构建在目标群体上可证明公平的预测模型,效果显著优于现有方法。
2023-07-28 cs.AI cs.DB cs.LG
Group Fairness with Uncertainty in Sensitive Attributes
Massachusetts Institute of Technology(麻省理工学院);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);IBM Research(IBM研究院);University of Florida(佛罗里达大学)
针对敏感属性缺失或带噪导致的公平性失效问题,提出基于 bootstrap 并由鲁棒QCQP支撑的算法,可在离散或连续属性下保证独立性等群体公平。
2023-06-07 cs.LG
The Effect of Enforcing Fairness on Reshaping Explanations in Machine Learning Models
Intelligent Systems Program, University of Pittsburgh(1 智能系统计划,匹兹堡大学);Department of Biomedical Informatics, University of Pittsburgh(2 生物医学信息学系,匹兹堡大学)
本研究探讨了在医疗机器学习中通过偏见缓解技术提高公平性如何影响基于Shapley的特征排名,发现公平性提升可能改变特征重要性排名,强调了在模型评估中需综合考虑准确性、公平性和可解释性。
2025-12-01 cs.CY cs.LG
FairlyUncertain: A Comprehensive Benchmark of Uncertainty in Algorithmic Fairness
New York University(纽约大学)
本文提出 FairlyUncertain 公理化基准,系统评估公平性中的不确定性估计,发现二分类中简单方法更一致且校准良好、弃权(不执行)无法缓解群体结果不平衡,而回归中纳入校准不确定性可无需显式干预即改善公平性。
2024-10-02 cs.LG stat.ML
Understanding Fairness and Prediction Error through Subspace Decomposition and Influence Analysis
Department of Mathematical and Statistical Science University of Alberta(数学与统计科学系阿尔伯塔大学)
本文通过子空间分解和影响分析,提出一种平衡预测效用与公平性的框架,有效提升公平性并保持预测性能。
2026-02-07 cs.LG stat.ML
Causal Pre-training Under the Fairness Lens: An Empirical Study of TabPFN
University of Bergen Centre for the Science of Learning \& Technology (SLATE) Bergen Norway;Department of Computer Science University of Oxford;Alan Turing Institute Oxford United Kingdom;University of Bergen;University of Oxford;Alan Turing Institute
本研究从公平性角度评估了TabPFN的因果预训练效果,发现其在预测准确性上表现优异,但在公平性改进方面存在局限,特别是在面对缺失-不在随机协变量偏移时。
2026-01-27 cs.AI cs.LG
Reconciling Predictive and Statistical Parity: A Causal Approach
Columbia University(哥伦比亚大学)
本文通过因果分解公式调和了统计平价与预测平价,证明二者互补而非互斥,并借助业务必要性概念统一了公平性谱系。
2023-12-22 cs.AI cs.CY cs.LG
Counterpart Fairness -- Addressing Systematic between-group Differences in Fairness Evaluation
Brandeis University(布兰迪斯大学);Harvard Medical School(哈佛医学院)
本文提出对应方公平性指标CFair,通过倾向得分与度量学习的两步匹配方法识别跨群体相似个体对,以更全面地评估机器学习模型在存在系统性组间差异和混杂因素时的公平性。
2024-11-18 cs.CY cs.LG
A Systematic Approach to Group Fairness in Automated Decision Making
Zurich University of Applied Sciences(苏黎世应用科学大学);University of Zurich(苏黎世大学)
虽然算法公平性领域已经提出了许多方法来衡量和提高机器学习模型的公平性,但这些发现仍然没有在实践中得到广泛应用。我们怀疑,其中一个原因是算法公平性领域提出了很多关于公平性的定义,这些定义很难驾驭。本文的目标是为数据科学家提供一个关于组公平性度量的可访问的介绍,并对关心这些度量的哲学推理提供一些见解。为此,我们将考虑在何种意义上比较社会人口群体,以说明公平性。
2021-09-09 cs.CY cs.LG
A Rank Graduation metric for Algorithmic fairness
University of Tipaza(蒂帕扎大学);University of Pavia(帕维亚大学)
本文提出基于秩的公平性评估框架,结合RGF、AURGF、置换检验和特征移除,在模拟和HMDA数据上验证,发现树模型兼顾准确性与公平性,且不公平源于数据固有群体差异。
2026-10-01 cs.LG stat.AP stat.ML
Visual Model Selection using Feature Importance Clusters in Fairness-Performance Similarity Optimized Space
Leiden Institute of Advanced Computer Science (LIACS), Leiden University(莱顿高级计算机科学研究所(LIACS)、莱顿大学);Netherlands Organization for Applied Scientific Research (TNO)(荷兰应用科学研究院(TNO))
本文提出一个交互式框架,利用弱监督度量学习和k-means聚类在公平性-性能相似性优化空间中组织模型,帮助利益相关者选择符合其需求的模型。
2025-10-25 cs.LG
Enforcing Fair Predicted Scores on Intervals of Percentiles by Difference-of-Convex Constraints
University of Iowa(爱荷华大学);Arizona State University(亚利桑那州立大学);University of Minnesota Twin Cities(明尼苏达大学双城分校)
本文提出一种部分公平的机器学习框架,通过差分凸约束在特定百分位区间内强制公平性,同时保持其他区域的灵活性,并通过实验证明其在关键区域的公平性和预测性能。
2026-04-05 cs.LG math.OC stat.ML
k-hop Fairness: Addressing Disparities in Graph Link Prediction Beyond First-Order Neighborhoods
LTCI, Télécom Paris(LTCI,巴黎电信学院);i3, Télécom Paris(i3,巴黎电信学院)
本文提出k-hop公平性方法,用于解决图链接预测中超越一阶邻域的结构性不平等问题,通过预处理和后处理策略提升公平性与性能的平衡。
2026-03-04 cs.LG
A Human-In-The-Loop Approach for Improving Fairness in Predictive Business Process Monitoring
Friedrich-Alexander-University Erlangen-Nuremberg, Germany(埃森纳赫-纽伦堡弗里德里希-亚历山大大学);University of Bayreuth, Bayreuth, Germany(拜罗伊特大学)
针对预测性业务流程监控模型因敏感属性导致的有偏预测问题,提出一种人在环的模型无关方法,通过修改从原模型提炼的决策树区分公平与不公平决策,在有偏数据下实现公平性与准确性的良好权衡。
2025-08-24 cs.CY cs.LG
FairTTTS: A Tree Test Time Simulation Method for Fairness-Aware Classification
Ben Gurion University(本古里安大学)
针对机器学习分类中的偏差问题,提出基于树测试时模拟的后处理方法FairTTTS,通过受保护属性节点的距离启发式调整实现公平性,在7个基准数据集上公平性提升优于传统方法且能提高准确率。
2025-01-14 cs.AI cs.LG
Statistical and Structural Approaches to Algorithmic Fairness
Graz University of Technology(格拉茨技术大学);Institute of Human-Centred Computing(人本计算研究所)
针对现代机器学习系统嵌入结构性不平等的问题,本文批判了当前公平性范式依赖确定性点估计和忽视个体结构背景的两大局限,并提出统计与结构相结合的方法。
2026-06-26 cs.AI cs.LG stat.ML
Auditing and Achieving Intersectional Fairness in Classification Problems
QuantumBlack, a McKinsey company(QuantumBlack,麦肯锡旗下公司);University of Warwick(华威大学)
机器学习算法被广泛用于对人做出越来越重要的决策,因此实现最佳预测性能不再是唯一的焦点。一个特别重要的考虑因素是种族、性别或任何其他敏感属性的公平性。本文研究交叉公平性,其中考虑多个敏感属性的交集。先前的研究主要集中在相对于单个敏感属性的公平性上,尽管交叉公平性对于现代机器学习系统的安全性至关重要,但交叉公平性的研究相对较少。我们提出了一个全面的框架,审计和实现交叉公平的分类问题:我们定义了一套指标,以评估交叉公平的数据或模型输出,通过扩展已知的单属性公平性指标,并提出了方法,即使在一些交叉分组代表性不足的稳健估计。此外,我们还开发了后处理技术,以减轻分类模型中检测到的任何交叉偏倚。我们的技术不依赖于关于基础模型的任何假设,并在保证公平的水平上保持预测性能。最后,我们给出了一个实际实现的指导,展示了所提出的方法如何在真实世界的数据集上执行。
2020-06-08 cs.AI cs.CY cs.LG
Fairness in Machine Learning-based Hand Load Estimation: A Case Study on Load Carriage Tasks
University of Virginia(弗吉尼亚大学);Virginia Polytechnic Institute and State University(弗吉尼亚理工大学)
本文针对基于机器学习的手部负荷预测中存在性别偏差的问题,提出一种基于变分自编码器特征解耦的公平预测模型,仅利用性别无关特征进行预测,在公平性和预测精度上均优于随机森林等传统方法。
2025-04-08 cs.LG
Improving Fairness in Graph Neural Networks via Counterfactual Debiasing
Tianjin University(天津大学)
针对图神经网络(GNNs)因图结构和消息传递机制加剧的预测偏差问题,提出Fair-ICD方法:通过反事实数据增强创建多样化邻域学习无偏表示,结合对抗性判别器减少偏差,实验证明其在保持预测性能的同时显著提升公平性指标。
2025-08-20 cs.LG
Properties of fairness measures in the context of varying class imbalance and protected group ratios
Institute of Computing Science, Poznan University of Technology(波兹南理工大学计算科学学院)
本文研究类别不平衡与受保护群体比例变化下公平性度量的一般性质,分析六种流行度量的概率质量函数,发现机会均等和阳性预测均等对类别不平衡更敏感,为选择合适公平性度量提供指导。
2025-02-26 cs.CY cs.LG
Deep Fair Learning: Task-Aware Fair Representations via Joint Distance-Covariance Regularization
University of Alberta(阿尔伯塔大学)
本文提出深度公平学习框架,将非线性充分降维与深度学习结合,通过微调中的新惩罚项实现敏感属性与表示的条件独立,在多种敏感属性类型和数据结构上显著优于现有方法。
2026-10-06 cs.LG stat.ML
Efficient and Interpretable Transformer for Counterfactual Fairness
Acturial and Risk Mangament Sciences, University of Illinois Urbana-Champaign(精算与风险管理科学,伊利诺伊大学厄巴纳-香槟分校)
本文提出FCorrTransformer和CAR框架,通过特征相关性建模提升模型公平性与效率,实验证明其在不平衡分类和回归任务中表现优异。
2026-04-29 cs.LG