An Algorithmic Framework for Fairness Elicitation
University Of Minnesota（明尼苏达大学）；Carnegie Mellon University（卡内基梅隆大学）；University of Pennsylvania（宾夕法尼亚大学）
我们考虑的设置中，正确的公平概念是不是简单的数学定义（如平等的出错率组），但可能更复杂和微妙的，因此需要从个人或集体利益相关者的启发。我们引入了一个框架，在这个框架中，成对的个人可以被确定为需要（近似）平等的待遇下的学习模型，或需要有序的治疗，如“申请人爱丽丝应该至少有可能获得贷款申请人鲍勃”。我们提供了一个可证明收敛和预言机有效的算法，学习最准确的模型受到公平性的约束，并证明泛化的准确性和公平性的界限。该算法还可以结合传统的统计公平性的概念，从而“纠正”或修改后者由前者引发的约束。我们报告的行为研究的初步结果，我们的框架，使用人类主体的公平约束引起的COMPAS刑事累犯数据集。
2020-10-14 cs.LG stat.ML
Addressing Fairness in Classification with a Model-Agnostic Multi-Objective Algorithm
Helmholtz AI（亥姆霍兹AI）；Ecole Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）；Swisscom（瑞士电信）
分类公平性的目标是学习一个分类器，该分类器不会基于敏感属性（如种族和性别）来歧视个人群体。设计公平算法的一种方法是使用公平概念的松弛作为正则化项或在约束优化问题中。我们观察到双曲正切函数可以近似指示函数。我们利用这个属性来定义一个可微的放松，近似公平的概念证明比现有的放松。此外，我们提出了一个模型无关的多目标架构，可以同时优化多个公平的概念和多个敏感属性，并支持所有基于统计奇偶校验的公平概念。我们使用我们的放松与多目标架构来学习公平分类器。在公共数据集上的实验表明，相对于无约束模型，我们的方法比当前的去偏置算法具有更低的精度损失。
2021-06-08 cs.AI cs.IR cs.LG
Fairness-aware Federated Minimax Optimization with Convergence Guarantee
The Hong Kong University of Science and Technology（香港科技大学）
本文针对联邦学习中的群体公平性问题，提出新算法FFALM，通过在训练目标施加公平性约束并求解极小极大重构，在保证收敛率理论上界的同时，在CelebA和UTKFace数据集上有效提升了模型公平性。
2024-10-17 cs.CY cs.LG
The KL-Divergence between a Graph Model and its Fair I-Projection as a Fairness Regularizer
Ghent University（根特大学）
图上的学习和推理越来越多地借助于概率模型来完成，例如指数随机图模型、图嵌入模型和图神经网络。然而，当图表对人与人之间的关系进行建模时，它们将不可避免地反映出偏见、偏见和其他形式的不公平和不平等。因此，一个重要的挑战是设计准确的图建模方法，同时根据问题所需的特定公平性概念来保证公平性。然而，过去关于这个主题的工作仍然很少，仅限于消除特定的图建模方法，并且通常旨在以间接的方式确保公平性。我们提出了一个通用的方法适用于大多数概率图建模方法。具体来说，我们首先定义的类的公平图模型对应于一组选定的公平标准。考虑到这一点，我们提出了一个公平正则化定义为KL之间的发散图模型和它的I-投影到一组公平的模型。我们证明，使用这种公平性正则化与现有的图建模方法相结合，有效地权衡公平性与准确性，而最先进的模型只能使这种权衡的公平性标准，他们是专门设计的。
2021-06-27 cs.LG
Principal Fairness: Removing Bias via Projections
Sapienza University of Rome（罗马第一大学）
减少数据中隐藏的偏差并确保算法数据分析的公平性最近受到了极大的关注。我们补充了最近的几篇论文在这方面的研究，介绍了一种通用的方法，以减少偏见的数据，通过随机预测在一个“公平”的子空间。我们将此方法应用于确定子图问题。对于稠密子图，我们的方法基于公平的预测允许恢复理论和经验上几乎最优的，公平的，密集的子图隐藏在输入数据。我们还表明，在小集合扩张假设下，近似这个问题超过2的因素是NP-难的，我们展示了一个多项式时间算法与匹配的近似界。
2021-03-06 cs.DS cs.LG
On the (In)Compatibility between Group Fairness and Individual Fairness
University of California Davis（加州大学戴维斯分校）；Center of Data Science and Artificial Intelligence Research（数据科学与人工智能研究中心）
本文研究最优统计均等与个体公平的兼容性条件，在冲突时通过 Pareto 前沿刻画二者最优权衡，并给出后处理模型的个体公平保证，为实践者提供兼顾统计均等 Pareto 最优性与个体公平约束的方法。
2026-11-10 cs.CY cs.LG math.ST
Wasserstein projection distance for fairness testing of regression models
Department of Computer Science, University of British Columbia（计算机科学系，不列颠哥伦比亚大学）；Department of Pathology and Laboratory Medicine, University of British Columbia（病理学与实验室医学系，不列颠哥伦比亚大学）；Department of Statistics, University of British Columbia（统计学系，不列颠哥伦比亚大学）；BC Cancer Research, Part of Provincial Health Care Authority（BC癌症研究，省卫生保健机构的一部分）；Department of Mathematics, University of British Columbia（数学系，不列颠哥伦比亚大学）
本文提出基于Wasserstein距离的回归模型公平性测试框架，通过假设检验和数据扰动方法提升公平性，实验显示其在检测性别差异和污染区域影响方面具有显著效果。
2026-02-09 cs.LG
Fairness-aware Anomaly Detection via Fair Projection
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Shenzhen Research Institute of Big Data（深圳大数据研究院）；The Shenzhen Institute of Artificial Intelligence and Robotics for Society（深圳人工智能与机器人社会研究院）；The Guangdong Provincial Key Laboratory of Future Networks of Intelligence（广东省未来网络智能化重点实验室）
针对无监督异常检测可能存在的群体公平性偏差问题，提出基于公平投影的FairAD方法，通过学习公共目标分布投影兼顾检测精度与公平性，还提出无阈值公平性指标，在真实基准上实现了更优的精度-公平性权衡。
2025-05-16 cs.LG
Lightweight Fairness for LLM-Based Recommendations via Kernelized Projection and Gated Adapters
Department of Computer Science, Stevens Institute of Technology, Hoboken NJ, USA（计算机科学系，史蒂文斯理工学院，新泽西州霍博肯）
本文提出一种轻量级方法，结合核化投影与门控专家适配器，以减轻LLM推荐系统中的偏见，通过无额外参数的投影去除敏感属性，同时保留任务效用。
2026-03-24 cs.LG
Statistical Guarantees for Fairness Aware Plug-In Algorithms
American Express（美国运通）
在（Menon & Williamson，2018）中提出了一种估计贝叶斯最优分类器的插件算法。然而，他们的方法的统计效力尚未确定。我们证明了插件算法是统计一致的。我们还得到有限样本保证学习贝叶斯最优分类器通过插件算法。最后，我们提出了一个协议，修改插件的方法，以便同时保证公平性和差分隐私方面的二进制特征被认为是敏感的。
2021-07-27 cs.LG stat.ML
Statistical Equity: A Fairness Classification Objective
University of Southern California（南加州大学）；Information Sciences Institute（信息科学研究所）
机器学习系统已被证明传播过去的社会错误。有鉴于此，大量研究都集中在设计“公平”的解决方案上。“即使有这么多的工作，公平也没有单一的定义，主要是因为公平是主观的，取决于环境。我们提出了一个新的公平定义，公平的原则，考虑现有的偏见的数据，并试图作出公平的决定，占这些以前的历史偏见的动机。我们将公平的定义形式化，并在适当的背景下激发它。接下来，我们将其操作化，以实现公平分类。我们执行多个自动和人工评估，以显示我们的定义的有效性，并证明其在公平性方面的实用性，如反馈回路。
2020-05-14 cs.AI cs.LG stat.ML
Statistical inference for individual fairness
University of Michigan（密歇根大学）；IBM Research（IBM研究院）；MIT-IBM Watson AI lab（MIT-IBM沃森人工智能实验室）
当我们依赖于机器学习（ML）模型来做出更重要的决策时，ML模型的问题会延续甚至加剧不受欢迎的历史偏见（例如，性别和种族偏见）已成为公众关注的焦点。在本文中，我们专注于在ML模型中检测违反个体公平性的问题。我们将问题形式化为测量ML模型对一种对抗性攻击的敏感性，并为对抗性成本函数开发了一套推理工具。这些工具允许审计人员以一种严格原则的方式评估ML模型的个体公平性：形成相似个体之间最差情况下的性能差异的置信区间，以及具有（渐近）非覆盖/第一类错误率控制的模型公平性的测试假设。我们展示了我们的工具在现实世界中的案例研究的效用。
2021-03-30 cs.LG stat.ML
Addressing Both Statistical and Causal Gender Fairness in NLP Models
University of Virginia（弗吉尼亚大学）
本文评估了NLP模型中针对性别偏见的统计与因果去偏方法，发现单一方法仅在目标指标上有效，而结合两类技术可同时降低统计和因果公平性指标上的偏见。
2024-03-30 cs.CL cs.CY cs.LG
Fairness and Randomness in Machine Learning: Statistical Independence and Relativization
University of Tübingen（图宾根大学）；Tübingen AI Centre（图宾根人工智能中心）
公平机器学习致力于防止在社会中嵌入的机器学习应用的背景下出现不公平。尽管公平的定义和提出的“公平算法”的各种各样，仍然存在未解决的概念问题，公平。在本文中，我们剖析了统计独立性在机器学习中经常使用的公平性和随机性概念中的作用。因此，我们被引导到一个令人惊讶的假设：随机性和公平性可以被认为是机器学习中的等价概念。特别是，我们获得了一个相对化的概念表示为统计独立的随机性呼吁冯米塞斯的百年历史的基础概率。这个概念在抽象意义上与常用的i.i.d.是“正交的”。随机性使用机器学习中的标准公平性概念（通过统计独立性定义），我们将数据的事前随机性假设与公平预测的事后要求联系起来。这种联系证明是富有成果的：我们用它来论证随机性和公平性本质上是相对的，并且这两个概念都应该反映它们作为机器学习中的建模假设的性质。
2022-11-16 cs.CY cs.LG
When Fairness Isn't Statistical: The Limits of Machine Learning in Evaluating Legal Reasoning
The University of Edinburgh（爱丁堡大学）
本文在59,000余份加拿大难民裁决数据集上实证评估三类ML方法，揭示统计公平性评估在法律裁量领域的局限，主张公平性评估须结合法律推理与制度语境。
2025-06-04 cs.CL cs.LG
Statistical and Structural Approaches to Algorithmic Fairness
Graz University of Technology（格拉茨技术大学）；Institute of Human-Centred Computing（人本计算研究所）
针对现代机器学习系统嵌入结构性不平等的问题，本文批判了当前公平性范式依赖确定性点估计和忽视个体结构背景的两大局限，并提出统计与结构相结合的方法。
2026-06-26 cs.AI cs.LG stat.ML
Parametric Fairness with Statistical Guarantees
Université de Montréal（蒙特利尔大学）；Université du Québec à Montréal（魁北克大学蒙特利尔分校）
本文提出一种扩展的人口统计均等指标，将分布性质和专家知识纳入公平性约束，并开发参数化方法以在有限数据和支出约束下获得具有统计保证的公平解。
2023-10-31 cs.CY cs.LG stat.ML
Extending Fair Null-Space Projections for Continuous Attributes to Kernel Methods
Felix Störck；Fabian Hinder；Barbara Hammer
提出将公平零空间投影扩展到核诱导特征空间，通过经验特征空间直接变换核矩阵，实现模型和公平评分无关的连续属性公平性方法，并在支持向量回归中展示竞争性或改进性能。
2026-08-04 cs.AI cs.LG
The Statistical Fairness-Accuracy Frontier
Rice University（莱斯大学）；University of California, Berkeley（加州大学伯克利分校）；Inria Paris（法国国家信息与自动化研究所巴黎分院）
本文研究了在有限样本情况下，如何通过最优样本分配策略和估计器设计，近似公平性-准确率前沿并量化其可靠性。
2026-10-19 cs.LG econ.TH math.OC
Local Statistical Parity for the Estimation of Fair Decision Trees
Computer Science Department, CIMAT（CIMAT 计算机科学系）；University of Edinburgh（爱丁堡大学）
针对决策树估计的公平性问题，提出局部统计奇偶性准则并融入递归算法，设计约束逻辑回归树（C-LRT）以平衡准确性与公平性，实验验证有效。
2025-04-25 cs.LG
Preventing Fairness Gerrymandering: Auditing and Learning for Subgroup Fairness
University of Pennsylvania（宾夕法尼亚大学）；Microsoft Research-New York City（微软研究院（纽约市））
机器学习中最流行的公平性概念是统计定义：它们固定一小部分预定义的组，然后要求分类器的某些统计数据在这些组中的奇偶性。这种形式的约束容易受到有意或无意的“公平选区划分”的影响，其中分类器似乎对每个单独的组是公平的，但严重违反了在受保护属性上定义的一个或多个结构化子组上的公平约束。我们建议，而不是要求统计概念的公平性指数（或无限）许多子群，定义了一个结构化的功能类的保护属性。这插入公平的统计定义和最近提出的个人公平的概念之间，但提出了一些计算上的挑战。如何审计一个固定的分类器，看看它是否满足这样一个强定义的公平性，现在已经不清楚了。我们证明了审计子群公平性的计算问题的误报率和统计奇偶性的平等是等价的弱不可知学习的问题，这意味着它是计算困难的最坏情况下，即使是简单的结构子类。然后，我们推导出两个算法，可证明收敛到最好的公平分类，访问神谕，可以解决不可知的学习问题。该算法的基础上制定的分组公平性作为一个两个球员之间的零和游戏的学习者和审计员。我们的第一个算法可证明收敛在一个多项式的步骤。我们的第二个算法只具有可证明的渐近收敛性，但具有简单和更快的每步计算的优点。我们使用线性回归作为启发式预言实现了更简单的算法，并表明我们可以有效地审计和学习真实数据集上的公平分类器。
2018-12-03 cs.DS cs.GT cs.LG
An Empirical Study of Rich Subgroup Fairness for Machine Learning
University of Pennsylvania（宾夕法尼亚大学）；University of Minnesota（明尼苏达大学）
Kearns et al. [2018]最近提出了一个富子群公平的概念，旨在弥合统计和个人公平概念之间的差距。富子组公平性选择一个统计公平性约束（例如，均衡受保护组之间的误报率），但随后要求该约束适用于由一类具有有界VC维数的函数定义的指数或无限大的子组集合。他们给出了一个算法，保证学习受此约束，条件是它有机会完美的学习没有公平约束的预言。在本文中，我们对Kearns等人的算法进行了广泛的实证评估。在四个关注公平性的真实数据集上，我们研究了当使用快速算法代替学习预言机时算法的基本收敛性，测量公平性和准确性之间的权衡，并将这种方法与Agarwal等人的最新算法进行比较。[2018]，其实现了由各个受保护属性定义的更弱和更传统的边际公平性约束。我们发现，在一般情况下，Kearns等人。算法收敛速度快，可以获得较大的收益的公平性与温和的成本准确性，并优化精度只受边际公平导致分类器与大量的子群不公平。我们还提供了一些分析和可视化的动力学和行为的卡恩斯等人。算法。总的来说，我们发现该算法是有效的真实数据，丰富的子群公平性是一个可行的概念在实践中。
2018-08-24 cs.LG stat.ML
Strong statistical parity through fair synthetic data
MOSTLY AI
本文研究构建具备设计即公平特性的合成数据，通过均衡敏感属性间的目标概率分布，使下游模型实现强统计 parity 公平预测，且公平调整可灵活集成或后处理，无需重训练生成器即可微调准确率与公平性的权衡。
2023-11-06 cs.CY cs.LG stat.ML
Statistical Inference for Fairness Auditing
Stanford University（斯坦福大学）
本文将公平性审计建模为多重假设检验，提出基于 bootstrap 的模型无关方法，以统计保证同时界定、标记或认证模型在丰富子群体及分布漂移下的表现差异。
2023-06-08 cs.CY cs.LG stat.ME
Unravelling the (In)compatibility of Statistical-Parity and Equalized-Odds
Research and Data Centre（研究与数据中心）；Dutch Ministry of Justice and Security（荷兰司法与安全部）；The Hague, The Netherlands（海牙，荷兰）
本文研究了统计平衡与等化误差度量之间的关系，揭示基础率不平衡导致的不兼容性，并提出在实践中权衡这两种度量的方法。
2026-01-26 cs.LG
Fairness-Aware Naive Bayes Classifier for Data with Multiple Sensitive Features
University of Durham（杜伦大学）
公平感知机器学习寻求在生成预测时最大化效用，同时避免基于种族、性别、宗教等敏感属性的不公平歧视。遵循这种策略的简单而有效的二进制分类算法是两个朴素贝叶斯（2NB），它强制执行统计奇偶性-要求组成数据集的组以相同的可能性接收阳性标签。在本文中，我们将此算法推广到N-naive-Bayes（NNB），以消除假设数据中只有两个敏感组的简化，而是将其应用于任意数量的组。我们提出了一个扩展的原始算法的统计奇偶约束和后处理例程，强制执行统计独立的标签和单个敏感属性。然后，我们研究了它的应用程序的数据与多个敏感功能，并提出了一个新的约束和后处理例程，以执行差分公平，扩展已建立的组公平约束集中在交叉。我们实证证明了美国人口普查数据集的NNB算法的有效性，并比较其准确性和去偏性能，不同的影响和DF- $ε$分数，与类似的组公平算法。最后，我们列出了用户在将该算法纳入其应用程序之前应该注意的重要事项，并指导他们进一步阅读使用统计奇偶性作为公平标准的利弊和道德影响。
2022-02-23 cs.AI cs.LG
Reconciling Predictive and Statistical Parity: A Causal Approach
Columbia University（哥伦比亚大学）
本文通过因果分解公式调和了统计平价与预测平价，证明二者互补而非互斥，并借助业务必要性概念统一了公平性谱系。
2023-12-22 cs.AI cs.CY cs.LG
Bursting the Burden Bubble? An Assessment of Sharma et al.'s Counterfactual-based Fairness Metric
Utrecht University（乌得勒支大学）
机器学习近年来的负面宣传有所增加，这是由于偏见、不公平和不可解释的模型。人们越来越有兴趣让机器学习模型对弱势群体（如女性或有色人种）更加公平。评价一个模型的公平性，需要有一个标准。一个新的度量评估组之间的公平性是负担，它使用反事实近似的平均距离，一组中的负面分类的个人的决策边界的模型。本研究的目的是比较负担的统计平价，一个众所周知的公平性度量，并发现负担的优点和缺点。我们通过计算三个数据集中敏感属性的负担和统计奇偶性来做到这一点：创建两个合成数据集来显示两个度量之间的差异，并使用一个真实世界数据集。我们表明，负担可以显示不公平的统计平价不能，这两个指标甚至可以不同意哪个组是不公平的待遇。我们的结论是，负担是一个有价值的指标，但不能取代统计平价：而是有价值的使用两者。
2022-11-21 cs.AI cs.CY cs.LG
Measuring Fairness of Text Classifiers via Prediction Sensitivity
Harvard University（哈佛大学）；Amazon Alexa AI（亚马逊Alexa人工智能）
随着语言处理应用的快速增长，公平性已成为数据驱动解决方案中的重要考虑因素。虽然在最近的文献中已经探讨了各种公平性的定义，但对于哪些指标最准确地反映了系统的公平性缺乏共识。在这项工作中，我们提出了一个新的公式：累积预测敏感性，它衡量公平性的基础上，机器学习模型的预测敏感性输入特征的扰动。该度量试图量化单个预测对受保护属性的依赖程度，其中受保护属性对受保护组中个体的成员身份状态进行编码。我们表明，该指标可以在理论上与一个特定的概念，组公平性（统计奇偶性）和个人的公平性。它也与人类对公平的感知密切相关。我们在两个文本分类数据集上进行实验：JIGSAW TOXICITY和BIAS IN BIOS，并评估指标和手动注释之间的相关性，以确定模型是否产生了公平的结果。我们观察到，建议的公平性度量的基础上预测灵敏度是统计上显着更相关的人类注释比现有的反事实的公平性度量。
2022-03-16 cs.CY cs.LG
Targeted Learning for Inference on Data Fairness
University of California Berkeley（加州大学伯克利分校）；University of Pennsylvania（宾夕法尼亚大学）
本文提出用目标学习框架对数据生成过程本身的公平性进行非参数统计推断，推导了人口统计均等、机会均等和条件互信息估计量，并验证其双重稳健性。
2026-10-28 cs.LG stat.ML
Connecting Algorithmic Fairness to Quality Dimensions in Machine Learning in Official Statistics and Survey Production
LMU Munich（慕尼黑大学）
研究将算法公平性引入国家统计局机器学习应用的质量框架，通过扩展QF4SA框架建立质量维度与公平性的映射，并结合实证说明其方法论贡献。
2024-02-14 cs.LG stat.ME stat.ML
Identifiability of Causal-based Fairness Notions: A State of the Art
Inria（法国国家信息与自动化研究所）；École Polytechnique（巴黎综合理工学院）；IPP（巴黎理工学院）
机器学习算法可能会产生有偏见的结果/预测，通常针对少数群体和代表性不足的子群体。因此，公平性正在成为基于机器学习的技术的大规模应用的重要要求。最常用的公平概念（例如统计奇偶性，均衡赔率，预测奇偶性等）是观察性的，仅仅依赖于变量之间的相关性。这些概念无法识别统计异常情况下的偏差，如辛普森悖论或伯克森悖论。基于偏见的公平概念（例如，反事实公平、无代理歧视等）不受这种异常的影响，因此更可靠地评估公平性。然而，基于因果关系的公平概念的问题在于，它们是根据并不总是可测量的数量（例如因果、反事实和特定路径效应）来定义的。这被称为可识别性问题，是因果推理文献中大量工作的主题。本文是一个汇编的主要可识别性的结果，特别是相关的机器学习公平性。使用大量的例子和因果关系图的结果进行说明。本文将特别感兴趣的公平研究人员，从业者和政策制定者谁正在考虑使用的cafecurity为基础的公平概念，因为它总结和说明了主要的可识别性的结果
2022-06-07 cs.LG
A Rank Graduation metric for Algorithmic fairness
University of Tipaza（蒂帕扎大学）；University of Pavia（帕维亚大学）
本文提出基于秩的公平性评估框架，结合RGF、AURGF、置换检验和特征移除，在模拟和HMDA数据上验证，发现树模型兼顾准确性与公平性，且不公平源于数据固有群体差异。
2026-10-01 cs.LG stat.AP stat.ML
Error Parity Fairness: Testing for Group Fairness in Regression Tasks
University of Houston（休斯顿大学）
人工智能（AI）的应用围绕着人类生活越来越多方面的决策。社会的反应是对这种自动决策系统（ADS）的责任施加法律和社会期望。公平性是人工智能问责制的基本组成部分，涉及对个人和敏感群体的公正对待（例如，基于性别、种族）。虽然许多研究集中在公平学习和公平测试的分类任务，文献是相当有限的，如何检查回归任务的公平性。这项工作提出了误差奇偶性作为回归公平的概念，并介绍了一种测试方法来评估组公平性的基础上的统计假设检验程序。错误奇偶检验检查预测错误是否在敏感组中类似地分布，以确定ADS是否公平。然后是一个适当的排列测试，比较几个统计组，以探索差异和确定受影响的群体。通过对美国县级COVID-19预测的案例研究，证明了所提出的方法的有用性和适用性，该研究揭示了基于种族的预测误差差异。总体而言，所提出的回归公平性测试方法填补了公平机器学习文献中的空白，并可作为更大的问责制评估和算法审计的一部分。
2022-08-16 cs.CY cs.LG
Fair Regression: Quantitative Definitions and Reduction-based Algorithms
Microsoft Research（微软研究院）；University of Minnesota（明尼苏达大学）
在本文中，我们研究了一个真实值的目标，如风险评分或累犯率的预测，同时保证一个受保护的属性，如性别或种族的公平性的定量概念。我们称这类问题为\emph{fair regression}。我们提出了两个公平性概念下的公平回归的一般方案：（1）统计奇偶性，要求预测在统计上独立于受保护的属性，以及（2）有界组损失，要求仅限于任何受保护的组的预测误差保持在某个预定水平以下。虽然我们只研究这两个公平性概念，但我们的方案适用于任意Lipschitz连续损失，因此它们包括最小二乘回归，逻辑回归，分位数回归和许多其他任务。我们的计划只需要访问标准的风险最小化算法（如标准分类或最小二乘回归），同时提供理论保证所获得的解决方案的最优性和公平性。除了分析我们的计划的理论属性，我们经验证明他们的能力，发现公平性-准确性边界的几个标准数据集。
2019-05-30 cs.LG stat.ML
Two Simple Ways to Learn Individual Fairness Metrics from Data
University of Michigan（密歇根大学）；IBM Research（IBM研究院）；MIT-IBM Watson AI Lab（MIT-IBM沃森人工智能实验室）
个体公平是算法公平的直观定义，它解决了群体公平的一些缺点。尽管它有好处，但它取决于特定于任务的公平度量，该度量编码了我们对手头ML任务的公平和不公平的直觉，并且许多ML任务缺乏广泛接受的公平度量是更广泛采用个人公平性的主要障碍。在本文中，我们提出了两种简单的方法来从各种数据类型中学习公平的度量。我们的经验表明，公平的训练与学习的指标导致提高公平性的三个机器学习任务容易受到性别和种族偏见。我们还提供了理论保证这两种方法的统计性能。
2020-06-19 cs.LG stat.ME stat.ML
Fairness with Exponential Weights
The Alan Turing Institute（阿兰·图灵研究所）
本文提出一种基于 Hedge/Exp4 指数权重的元算法，将离散贝叶斯推断实现转化为保证逐轮精确统计公平的上下文赌博机算法，并扩展到非平稳分布与批处理分类。
2025-02-16 cs.LG
Fairness by Explicability and Adversarial SHAP Learning
Experian Ltd.（益百利有限公司）；Experian UK&I and EMEA DataLabs（益百利英国、爱尔兰及欧洲、中东和非洲数据实验室）
理解和信任模型预测的公平性的能力，特别是在考虑非特权群体的结果时，对于机器学习系统的部署和采用至关重要。SHAP值为解释模型预测和特征属性提供了一个统一的框架，但并不直接解决公平性问题。在这项工作中，我们提出了一个新的公平性的定义，强调外部审计师和模型的可解释性的作用。为了满足这一定义，我们开发了一个框架，用于减轻模型偏差使用正则化构造的SHAP值的对抗性代理模型。我们专注于一个单一的非特权组的二进制分类任务，并将我们的公平显式约束经典的统计公平性指标。我们使用梯度和自适应增强来演示我们的方法：合成数据集，UCI成人（人口普查）数据集和真实世界的信用评分数据集。生产的模型更公平和性能。
2020-06-26 cs.LG stat.ML
Towards Multi-Objective Statistically Fair Federated Learning
Amazon Alexa AI（亚马逊 Alexa 人工智能）
联邦学习（FL）是由于数据所有权和隐私问题而出现的，以防止数据在训练过程中包括的多方之间共享。虽然问题，如隐私，已经获得了显着的关注，在这一领域，并没有太多的注意力已经得到满足统计公平措施在FL设置。考虑到这一目标，我们进行了研究，以表明FL是能够满足不同的公平性指标，在不同的数据制度，包括不同类型的客户端。更具体地说，不合作或敌对的客户端可能会由于其训练数据集中存在的偏见而注入有偏见或有毒的模型，从而污染全局FL模型。这些偏差可能是不平衡的训练集（Zhang和Zhou 2019）、历史偏差（Mehrabi et al. 2021 a）或来自针对公平性的数据投毒攻击的中毒数据点（Mehrabi et al. 2021 b; Solans，Biggio和Castillo 2020）的结果。因此，我们提出了一个新的FL框架，能够满足多个目标，包括各种统计公平性指标。通过实验，我们通过与不同基线的比较，展示了该方法的有效性，它在满足不同目标的集体和个人的能力，以及它在识别不合作或敌对客户和降低其影响的能力
2022-01-24 cs.AI cs.LG
Fairness Transferability Subject to Bounded Distribution Shift
University of California, Santa Cruz（加州大学圣克鲁兹分校）
给定一个算法预测器在某个源分布上是“公平的”，那么它在一个未知的目标分布上是否仍然是公平的，而这个未知的目标分布在某个范围内不同于源分布？在本文中，我们研究了机器学习预测器的统计组公平性的可转移性（即，分类器或回归器）服从有界分布偏移。这种偏移可能由初始训练数据不确定性、用户对部署的预测器的适应、动态环境或在新设置中使用预训练模型引入。在这里，我们开发了一个界限，这种可转移性的特点，标记潜在的不适当的部署机器学习的社会后果的任务。首先，我们开发了一个框架，以界定违反统计公平性的分布偏移，制定了一个通用的上限转移的公平性违反我们的主要结果。然后，我们为具体的工作示例制定界限，重点是两个常用的公平性定义（即，人口统计学均等和均等化的几率）和两类分布偏移（即，协变量偏移和标签偏移）。最后，我们比较我们的理论界限，确定性模型的分布偏移和对现实世界的数据，发现我们能够估计公平违反界限在实践中，即使简化的假设只有近似满足。
2022-12-15 cs.CY cs.LG
A Brief Tutorial on Sample Size Calculations for Fairness Audits
University of California, San Francisco（加州大学旧金山分校）；New York University（纽约大学）
本教程针对公平性审计缺乏样本量指导及未考虑子群体样本不等的问题，给出确定所需子群体样本量的方法，以提升不公平检测假设检验的统计功效。
2023-12-07 cs.LG stat.AP
Projected Boosting with Fairness Constraints: Quantifying the Cost of Fair Training Distributions
Department of Biostatistics, Vanderbilt University Medical Center, Nashville, TN 37232, USA（生物统计学系，范德比尔特大学医学中心）；Department of Informatics, King's College London, WC2R 2LS London, UK（信息学系，伦敦国王学院）
FairBoost通过投影训练分布满足公平性约束，量化提升动态中的准确性与公平性权衡。
2026-02-05 cs.LG
Distribution-Specific Auditing For Subgroup Fairness
Columbia University（哥伦比亚大学）；Washington University in St. Louis（圣路易斯华盛顿大学）
本文研究统计子群公平性审计的计算复杂性，利用高斯分布下的不可知半空间学习进展，为齐次半空间子群给出首个 PTAS，并证明一般半空间子群在密码学假设下不存在多项式时间非平凡审计算法。
2024-02-29 cs.CC cs.CY cs.LG
An Information-Theoretic Framework for Credit Risk Modeling: Unifying Industry Practice with Statistical Theory for Fair and Interpretable Scorecards
H2O.ai；Center for Trustworthy AI Through Model Risk Management, University of North Carolina Charlotte（可信人工智能通过模型风险管理中心，北卡罗来纳大学夏洛特分校）
本文提出统一的信息论框架，揭示信用风险指标WoE、IV与PSI的本质联系，推导其标准误差以实现假设检验与公平性约束，并通过实验证明基于信息论的分箱策略比编码选择更重要。
2025-09-11 cs.LG stat.ML
On the Moral Justification of Statistical Parity
Zurich University of Applied Sciences（苏黎世应用科学大学）；University of Zurich（苏黎世大学）
算法公平性的一个关键但经常被忽视的方面是，我们如何从道德角度证明强制执行某种公平度量是合理的。当提出公平性度量时，通常通过强调其数学属性来对其进行论证。很少有人解释衡量标准下的道德假设。我们在本文中的目的是考虑与独立性的统计公平标准（统计平价）相关的道德方面。为此，我们考虑以前的工作，其中讨论了两个世界观“你所看到的就是你得到的”（WYSIWYG）和“我们都是平等的”（WAE），并通过这样做提供了一些指导，澄清可能的假设在算法的设计。我们提出了这项工作的延伸，它以道德为中心。最自然的道德延伸是，当且仅当社会人口群体之间的预测特征（例如高中成绩和标准化考试成绩可以预测大学表现）的差异是由不公正的社会差距或测量错误造成的时，独立性才需要实现。通过两个反例，我们证明了这一扩展是不普遍正确的。这意味着是否应该使用独立性的问题不能通过只考虑预测特征差异的公正性来满意地回答。
2021-01-21 cs.CY cs.LG
Group Fairness in Prediction-Based Decision Making: From Moral Assessment to Implementation
University of Zurich（苏黎世大学）；Zurich University of Applied Sciences（苏黎世应用科学大学）
确保基于预测的决策的公平性是基于统计组公平性标准。这些标准中哪一个在道德上是最合适的取决于上下文，它的选择需要伦理分析。在本文中，我们提出了一个逐步的过程，集成了三个要素：（a）根据最近提出的“公平机会均等”的一般原则，对特定情况下公平的含义进行道德评估的框架;（b）将评估结果与既定统计群体公平标准相对应，以及（c）一种用于将如此定义的公平性集成到最优决策中的方法。作为第二个贡献，我们展示了FEC原则的新应用，并表明，通过这种扩展，FEC框架涵盖了所有类型的组公平性标准：独立性，分离性和充分性。第三，我们引入了FEC原则的扩展版本，它还允许考虑公平性评估中与道德无关的元素，并链接到众所周知的公平性标准放宽。本文提出了一个框架，开发公平的决策系统在一个概念上健全的方式，结合道德和计算元素的公平预测为基础的决策在一个综合的方法。复制我们结果的数据和代码可在https://github.com/joebaumann/fair-prediction-based-decision-making上获得。
2022-10-19 cs.CY cs.LG
Fairness in Algorithmic Profiling: A German Case Study
School of Social Sciences, University of Mannheim（曼海姆大学社会科学学院）；dmTECH；LMU Munich（慕尼黑大学）；Joint Program in Survey Methodology, University of Maryland（马里兰大学联合调查方法学项目）
公共部门越来越多地使用药物定性分析，作为有效和客观地分配有限公共资源的一种手段。一个例子是基于预测的求职者统计概况分析，以指导公共就业服务部门分配支助措施。然而，对潜在的副作用，如无意中的歧视和公平问题的经验评估是罕见的。在本研究中，我们从预测性能、公平性指标和数据分析决策的脆弱性方面比较和评估了预测求职者长期失业风险的统计模型。以德国为例，我们利用德国公共就业服务部门定期收集的求职者就业历史的行政数据，在现实条件下评估分析模型。除了表明这些数据可以用于预测长期失业率具有竞争力的准确性水平，我们强调，不同的分类政策有非常不同的公平性的影响。因此，我们呼吁在实施这些模式之前进行严格的审计。
2021-08-04 cs.CY cs.LG stat.AP
Fairness in Credit Scoring: Assessment, Implementation and Profit Implications
Humboldt University of Berlin（柏林洪堡大学）
算法决策的兴起催生了对公平机器学习（ML）的大量研究。金融机构使用ML来构建风险记分卡，以支持一系列与信贷相关的决策。然而，关于信用评分中公平ML的文献很少。本文有三个贡献。首先，我们重新审视统计公平标准，并检查其是否足以进行信用评分。其次，我们将算法选项分类，以便在ML模型开发管道中纳入公平目标。最后，我们实证比较不同的公平处理器在利润为导向的信用评分的背景下，使用真实世界的数据。实证结果证实了公平措施的评价，确定合适的选项，以实施公平的信用评分，并澄清在贷款决策的利润公平权衡。我们发现，多个公平性标准可以近似地同时满足，并建议分离作为衡量记分卡公平性的适当标准。我们还发现，公平的处理器可以在利润和公平性之间实现良好的平衡，并表明算法歧视可以以相对较低的成本降低到合理的水平。与论文对应的代码可以在GitHub上找到。
2022-06-17 cs.LG q-fin.RM stat.ML
Review of Mathematical frameworks for Fairness in Machine Learning
Institut de Mathématiques de Toulouse（图卢兹数学研究所）；Université de Toulouse 3（图卢兹第三大学）；Instituto de Matemáticas de la Universidad de Valladolid（巴利亚多利德大学数学研究所）；Universidad de Valladolid（巴利亚多利德大学）
从数学的角度对近年来文献中提出的主要公平性定义和公平学习方法进行了综述。根据我们的独立性为基础的方法，我们考虑如何建立公平的算法，其性能下降的后果相比，可能不公平的情况下。这对应于由准则$\textit{statistical parity}$或$\textit{equality of odds}$给出的公平性价格。给出了$\textit{equality of odds}$意义下的最佳公平分类器和最佳公平预测器（线性回归高斯模型下）的表达式。
2020-05-26 cs.LG stat.ML
Welfare and Distributional Impacts of Fair Classification
Harvard University（哈佛大学）
机器学习中的当前方法主要根据其对预测准确性和供应商效用损失的影响来分析各种统计公平性概念的影响。在本文中，我们提出了一个新的框架来解释公平标准的影响，通过转换的约束损失最小化问题的社会福利最大化问题。这种转换将分类器及其输出移动到效用空间中，在该效用空间中，由于分类分配，个人、团体和整个社会都会经历不同的福利变化。根据这一特征，预测和公平约束被视为影响社会福利和分配，并揭示个人在社会中的隐含福利权重-这些权重可以通过公平的视角加以解释。社会福利对公平问题的表述突出了对分配正义的关注，而分配正义在标准的算法公平性方法中一直扮演着核心角色，尽管更为隐含。
2018-07-03 cs.LG stat.ML
Intrinsic Fairness-Accuracy Tradeoffs under Equalized Odds
该研究针对等化几率下的公平性-准确率权衡问题，提出了依赖数据统计特征的任意分类器准确率上界，并在三个真实数据集上验证，揭示了群体统计差异对低偏差高准确率的根本性限制。
2024-05-12 cs.AI cs.IT cs.LG
Projection-Free Algorithms in Statistical Estimation
H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology（佐治亚理工学院工业与系统工程学院）；Department of Electrical Engineering, Technion（以色列理工学院电气工程系）
Frank-Wolfe算法（FW）及其变体由于其无投影的特性，在机器学习领域引起了广泛的关注。近年来，人们将FW算法的梯度计算复杂度降为$\log(\frac{1}ε)$，以满足光滑和强凸的目标。这种复杂性结果在学习问题中尤其重要，因为压倒性的数据大小使得梯度计算的单个评估变得昂贵。然而，在高维统计估计问题中，目标通常不是强凸的，有时甚至是非凸的。在本文中，我们扩展了国家的最先进的FW型算法的大规模，高维估计问题。证明了只要目标函数满足{ \em限制强凸性}，且优化不超过模型的统计极限，则仍然可以达到$\log(\frac{1}ε)$梯度计算复杂度.
2018-05-20 cs.LG stat.ML
Towards Logical Specification of Statistical Machine Learning
AIST（产业技术综合研究所）
本文提出基于 Kripke 模型与认知逻辑的形式化框架，用逻辑公式刻画统计分类器的性能、鲁棒性与公平性，并以反事实认知算子表达条件不可区分性。
2020-03-28 cs.AI cs.CR cs.LG
DUAL-LOCO: Distributing Statistical Estimation Using Random Projections
ETH Zürich（苏黎世联邦理工学院）；Disney Research（迪士尼研究院）
我们提出了DUAL-LOCO，分布式统计估计的通信效率的算法。DUAL-LOCO假设数据是根据特征而不是样本分布的。它只需要一轮通信，其中低维随机投影用于近似不同工人可用的特征之间的依赖关系。我们表明，DUAL-LOCO有界逼近误差，这只弱依赖于工人的数量。我们比较DUAL-LOCO对各种现实世界的数据集上的最先进的分布式优化方法，并表明它获得了更好的加速比，同时保持良好的准确性。
2016-01-08 cs.DC cs.LG stat.ML
