Human Perceptions of Fairness in Algorithmic Decision Making: A Case Study of Criminal Risk Prediction
MPI-SWS（马克斯·普朗克软件系统研究所）；Saarland University（萨尔兰大学）；University of Maryland（马里兰大学）；Cambridge University（剑桥大学）；Alan Turing Institute（艾伦·图灵研究所）
随着算法越来越多地用于做出影响人类生活的重要决策，从社会福利分配到预测犯罪累犯风险，人们对算法决策的公平性提出了担忧。大多数关于算法公平性的先前作品规范性地规定了应该如何做出公平的决定。相比之下，在这里，我们连续调查用户如何感知和推理算法决策的公平性。这项工作的一个关键贡献是我们提出的框架，以了解为什么人们认为某些功能是公平或不公平的算法中使用。我们的框架确定了八个属性的功能，如相关性，意志性和可靠性，作为潜在的考虑因素，告知人们的道德判断的公平性的功能使用决策算法。我们通过对576人进行的一系列基于ESTA的调查来验证我们的框架。我们发现，基于一个人对我们示例场景中某个特征的八个潜在属性的评估，我们可以准确地（> 85%）预测这个人是否会认为该特征的使用是公平的。我们的发现具有重要意义。在高层次上，我们表明，人们的不公平的关注是多方面的，并认为未来的研究需要解决歧视以外的不公平的关注。在低层次上，我们发现人们对公平性的判断存在相当大的分歧。我们找出分歧的根源，并指出解决这些分歧的可能途径。
2018-02-26 cs.CY cs.LG stat.ML
Fair inference on error-prone outcomes
Utrecht University（乌得勒支大学）
监督学习中的公平推理是一个重要而活跃的研究领域，在预测地面真实目标时，产生了一系列有用的方法来评估和解释公平性标准。然而，如在最近的工作中所示，当目标标签容易出错时，潜在的预测不公平性可能由测量误差引起。在本文中，我们表明，当使用一个容易出错的代理目标，现有的方法来评估和校准公平性标准不扩展到真正的目标变量的兴趣。为了解决这个问题，我们提出了一个框架，从现有的两个文献的组合：公平ML方法，如那些在反事实的公平性文献，一方面，另一方面，在统计文献中发现的测量模型。我们讨论这些方法和它们的连接导致我们的框架。在一个医疗决策问题中，我们发现使用潜变量模型来解释测量误差消除了先前检测到的不公平。
2020-03-17 cs.CY cs.LG stat.ML
Algorithmic Fairness and Statistical Discrimination
数学公平性是一个新的跨学科研究领域，专注于如何衡量一个过程或算法是否可能无意中产生不公平的结果，以及是否或如何减轻这些过程的潜在不公平。统计歧视描述了一组信息问题，可以引起理性的（即，贝叶斯）决策，导致不公平的结果，即使在没有歧视的意图。在这篇文章中，我们提供了这两个相关文献的概述，并得出它们之间的联系。这一比较既说明了合理性与公平性之间的冲突，也说明了包容性的重要性（例如，“理性预期”和“自我实现的预言”）在定义和追求公平。采取一致行动，我们认为，这两个传统建议考虑新的公平概念，明确说明如何的算法打算测量的个人特征可能会改变响应算法的价值。
2022-08-17 econ.TH stat.AP
Long Term Fairness for Minority Groups via Performative Distributionally Robust Optimization
University of Alberta（阿尔伯塔大学）
机器学习（ML）的公平性研究人员已经围绕几个公平性标准进行了合并，这些标准提供了ML模型公平性的正式定义。然而，这些标准有一些严重的局限性。我们确定了这些正式的公平标准的四个关键缺点，并旨在帮助解决这些问题，通过扩展表演预测，包括一个分布鲁棒的目标。
2022-07-12 cs.AI cs.LG math.OC
A Distributionally Robust Optimisation Approach to Fair Credit Scoring
Soton.ac.uk（索顿大学）
研究如何将分布鲁棒优化（DRO）方法用于信用评分，通过实验评估其公平性、分类能力及稳健性。发现DRO方法显著提升公平性且预测性能损失小，表明其可改善信用评分公平性，同时指出常用公平性指标在信用评分设置中有局限。
2026-07-09 cs.CY cs.LG
Residual Unfairness in Fair Machine Learning from Prejudiced Data
Cornell University（康奈尔大学）
最近在机器学习公平性方面的工作提出了通过均衡各组之间的准确性指标来调整公平性，并且还研究了受历史偏见影响的数据集如何可能导致不公平的决策策略。我们将这些工作联系起来，研究当公平性调整后的预测因子对目标人群实际上并不公平时产生的剩余不公平性，这是由于现有偏见政策对训练数据进行了系统性审查。这种情况在关注公平性的相同应用程序中特别常见。我们从理论上描述了这种审查对二进制分类器的标准公平性度量的影响，并提供了残留不公平性可能出现或可能不会出现的标准。我们证明，在某些条件下，公平调整的分类器实际上会导致剩余的不公平，使同样的不公平持续下去，对相同的群体，这使数据产生偏见，从而表明，即使是最先进的公平机器学习也可能具有“偏入，偏出”属性。当某些基准数据可用时，我们展示了样本重新加权如何在考虑删失的同时估计和调整公平性指标。我们用这个研究的情况下，停止，问题，和弗里斯克（SQF），并证明，试图调整公平的政策是臭名昭著的同样的不公正。
2018-06-07 cs.LG stat.ML
Simulating Eutopia: Revisiting Long-term Fairness with Outcomes, Performativity, and Dynamics
Indian Institute of Technology Kharagpur（印度理工学院卡拉格普尔分校）；Univ. Lille（里尔大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）
研究人工智能驱动决策制定者在信贷借贷财富过程中的长期公平性，通过形式化财富动态为能动性马尔可夫决策过程，开发Eutopia模拟器学习公平策略，测试不同算法，结果显示考虑能动性动态及公平感知效用学习效果更佳。
2026-09-29 cs.AI cs.CY cs.LG
Measuring Unfairness through Game-Theoretic Interpretability
Escola Politécnica da Universidade de São Paulo, USP（圣保罗大学理工学院，USP）
人们经常在文献中发现公平性度量和用于解释训练分类器的特征重要性度量之间的联系。然而，似乎没有研究比较公平性措施和特征重要性措施。在本文中，我们提出了评估和比较这些措施的方法。我们特别关注SHAP，这是一种基于博弈论的特征重要性度量;我们提出了一些不公平倾向数据集的结果。
2019-10-12 cs.LG stat.ML
When mitigating bias is unfair: multiplicity and arbitrariness in algorithmic group fairness
AXA（安盛集团）
本文提出FRAME框架，从五个维度评估公平机器学习中不同偏见缓解方法对个体预测的影响，揭示即使公平与准确率相近的方法在行为上差异显著，凸显去偏过程的任意性及现有公平标准的局限。
2024-05-22 cs.LG stat.ML
A Unified Approach to Quantifying Algorithmic Unfairness: Measuring Individual & Group Unfairness via Inequality Indices
MPI-SWS（马克斯·普朗克软件系统研究所）；ETH Zurich（苏黎世联邦理工学院）；University of Cambridge（剑桥大学）；The Alan Turing Institute（艾伦·图灵研究所）
通过算法决策的歧视已经受到了相当大的关注。以前的工作主要集中在定义公平的条件，但没有定义令人满意的措施算法的不公平。在本文中，我们专注于以下问题：给定两个不公平的算法，我们应该如何确定这两个更不公平？我们的核心思想是使用经济学中现有的不平等指数来衡量算法的结果如何不平等地使人口中的不同个体或群体受益。我们的工作提供了一个合理的和一般的框架来比较和对比算法预测的（不）公平性。这种统一的方法使我们能够量化个人和群体层面的不公平。此外，我们的工作揭示了不同公平概念之间被忽视的权衡：使用我们提出的措施，算法的整体个人层面的不公平可以分解为组间和组内组件。早期的方法通常是为了解决群体之间的不公平，这可能是合理的法律或其他原因。然而，我们证明，最大限度地减少组间组件，事实上，增加组内，因此整体的不公平。我们的特点和说明我们的措施（不）公平和预测精度之间的权衡。
2018-07-02 cs.CY cs.LG stat.ML
Unfair Utilities and First Steps Towards Improving Them
University of Copenhagen（哥本哈根大学）；ETH Zurich（苏黎世联邦理工学院）
本文提出将公平性作为效用函数的属性而非策略约束，定义信息价值公平性并修改效用函数以消除推断受保护属性的动机，在思想实验和COMPAS数据上验证其与直觉公平判断的一致性。
2026-09-15 cs.CY cs.LG stat.ML
Learning Fair Representations with High-Confidence Guarantees
University of Massachusetts（马萨诸塞大学）；Berkeley Existential Risk Initiative（伯克利生存风险倡议）
本文正式定义了以高置信度学习公平表示的问题，提出了FRG框架，为限制所有下游模型和任务的不公平性提供用户定义上限的高置信度保证，并经理论和实证评估验证了其有效性。
2023-10-23 cs.CY cs.LG stat.ML
Enforcing fairness in private federated learning via the modified method of differential multipliers
KTH Royal Institute of Technology（KTH皇家理工学院）；Apple（苹果公司）
具有差分隐私的联邦学习或私有联邦学习提供了一种在尊重用户隐私的同时训练训练机器学习模型的策略。然而，差分隐私会不成比例地降低模型在代表性不足的群体上的性能，因为在存在噪声的情况下，分布的这些部分很难学习。在机器学习模型中实施公平性的现有方法已经考虑了集中式设置，其中算法可以访问用户的数据。本文介绍了一种在私有联邦学习中增强组公平性的算法，其中用户的数据不会离开他们的设备。首先，本文将修正的微分乘子方法推广到具有公平性约束的经验风险最小化问题，从而提供了一种在中心环境下实现公平性的算法。然后，将该算法扩展到私有联邦学习环境。所提出的算法，\texttt{FPFL}，测试的联邦版本的成人数据集和“不公平”版本的FEMNIST数据集。这些数据集上的实验显示了私有联邦学习如何加剧训练模型中的不公平性，以及FPFL如何能够减轻这种不公平性。
2022-04-15 cs.LG stat.ML
Unfairness Discovery and Prevention For Few-Shot Regression
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
我们研究了监督式Few-Shot元学习模型中的公平性，该模型对历史数据中的歧视（或偏见）敏感。基于偏见数据训练的机器学习模型往往会对少数群体的用户做出不公平的预测。虽然之前已经研究了这个问题，但是现有方法主要针对基于大量训练数据检测和控制受保护变量（例如种族、性别）对目标预测的依赖性影响。这些方法有两个主要缺点：（1）缺乏对所有变量的全局因果可视化;（2）缺乏对看不见的任务的准确性和公平性的概括。在这项工作中，我们首先发现歧视的数据使用因果贝叶斯知识图谱，它不仅展示了依赖的保护变量的目标，但也表明所有变量之间的因果关系。接下来，我们开发了一种新的算法的基础上的风险差异，以量化的歧视性影响，为每个保护变量的图。此外，为了保护预测不受不公平性的影响，提出了一种元学习中的快速自适应偏差控制方法，该方法有效地减轻了每个任务的统计差异，从而确保了受保护属性对基于有偏和Few-Shot数据样本的预测的独立性。不同于现有的元学习模型，组不公平的任务，有效地减少利用（联合国）保护组之间的平均差异回归问题。通过对合成数据集和真实数据集的广泛实验，我们证明了我们提出的不公平发现和预防方法可以有效地检测歧视并减轻模型输出的偏差，并将准确性和公平性推广到具有有限训练样本的看不见的任务。
2020-09-23 cs.LG stat.ML
Fairwashing: the risk of rationalization
Université du Québec à Montréal（魁北克大学蒙特利尔分校）；RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）；ENSTA ParisTech（国立高等先进技术学院巴黎高科）；Osaka University（大阪大学）；UdeM（蒙特利尔大学）；MILA（蒙特利尔学习算法研究所）
黑箱解释是解释机器学习模型如何产生结果的问题，该模型的内部逻辑对审计人员是隐藏的，通常是复杂的。目前解决这一问题的方法有模型解释、结果解释和模型检验。虽然这些技术可以通过提供可解释性而受益，但它们可以以负面的方式用于执行公平洗涤，我们将其定义为促进机器学习模型尊重某些道德价值观的错误感知。特别是，我们证明，它是可能的，系统合理化的决策，由一个不公平的黑箱模型使用模型的解释，以及结果的解释方法与给定的公平性度量。我们的解决方案，LaundryML，是基于正则化规则列表枚举算法，其目标是寻找公平的规则列表近似不公平的黑盒模型。我们在真实世界数据集上训练的黑盒模型上实证评估了我们的合理化技术，并表明可以获得对黑盒模型具有高保真度的规则列表，同时大大减少不公平。
2019-05-15 cs.LG stat.ML
Ethical Adversaries: Towards Mitigating Unfairness with Adversarial Machine Learning
KU Leuven（鲁汶大学）；Université de Namur（那慕尔大学）；TU Berlin（柏林工业大学）
机器学习正被集成到越来越多的关键系统中，对社会产生深远的影响。由于这种广泛的使用及其理论上的考虑，意外行为和不公平的决策过程正受到越来越多的审查。个人和组织都会注意、测试和批评不公平的结果，以追究模型设计者和部署者的责任。我们提供了一个框架，帮助这些群体减轻来自训练数据集的不公平陈述。我们的框架依赖于两个相互操作的对手，以提高公平性。首先，训练一个模型，目标是防止猜测受保护属性的值，同时限制效用损失。第一步是为了公平性而优化模型的参数。其次，该框架利用来自对抗性机器学习的规避攻击来生成将被错误分类的新示例。然后，这些新的示例在第一步中用于重新训练和改进模型。这两个步骤会迭代应用，直到公平性得到显着改善。我们在公平文献中充分研究的数据集上评估了我们的框架-包括COMPAS-在那里它可以超越其他关于人口均等，机会均等和模型效用的方法。我们还说明了我们的研究结果的微妙的困难时，减轻不公平，并强调我们的框架可以帮助模型设计者。
2020-09-01 cs.AI cs.LG stat.ML
Metrizing Fairness
EPFL（洛桑联邦理工学院）
本文研究公平监督学习，提出用积分概率度量衡量不公平性，并证明基于平方L2距离或平方最大均值差异的正则化损失可用随机梯度下降高效求解，实验表明其准确性与不公平性权衡优于现有方法。
2024-06-11 cs.LG math.OC stat.ML
Algorithmic Decision Making with Conditional Fairness
Tsinghua University（清华大学）；Zhejiang University（浙江大学）；Squirrel AI Learning（松鼠AI智适应教育）
公平性问题是决策系统中的一个重要问题。已经提出了各种公平性概念来衡量算法不公平的程度。在实践中，经常存在一组我们称之为公平变量的变量，它们是决策前的协变量，如用户的选择。在评估决策支持算法的公平性时，公平变量的影响无关紧要。因此，我们定义条件公平性作为一个更健全的公平性度量的公平性变量的条件。鉴于不同的先验知识的公平变量，我们证明了传统的公平符号，如人口统计学平价和均衡的赔率，是我们的条件公平符号的特殊情况。此外，我们提出了一个可导出的条件公平正则化器（DCFR），它可以集成到任何决策模型，跟踪算法决策的精度和公平性之间的权衡。具体来说，在我们的DCFR中提出了一种基于对抗表示的条件独立损失来衡量不公平的程度。通过在三个真实数据集上的大量实验，我们证明了我们的条件公平性符号和DCFR的优点。
2021-07-18 cs.LG stat.ML
Fair DARTS: Eliminating Unfair Advantages in Differentiable Architecture Search
Xiaomi AI Lab（小米人工智能实验室）；Minzu University of China（中央民族大学）
可区分架构搜索（DARTS）现在是一种广泛传播的权重共享神经架构搜索方法。然而，由于不可避免的跳过连接的聚集，它遭受了众所周知的性能崩溃。本文首先揭示了其根源在于排他性竞争中的不公平优势。通过实验，我们表明，如果两个条件中的任何一个被打破，崩溃消失。因此，我们提出了一种新的方法，称为公平的DARTS的独家竞争是放松合作。具体来说，我们让每个操作的架构权重独立于其他操作。然而，仍然有一个重要的问题，离散化的差异。然后，我们提出了一个零一损失，推动建筑权重接近零或一，这近似于预期的多热解决方案。我们的实验是在两个主流的搜索空间上进行的，我们在CIFAR-10和ImageNet上得到了新的最先进的结果。我们的代码可以在https://github.com/xiaomi-automl/fairdarts上找到。
2020-07-16 cs.AI cs.CV cs.LG
Doubly Fair Dynamic Pricing
University of California, Santa Barbara（加州大学圣巴巴拉分校）
我们研究了两种类型的公平约束的在线动态定价问题：“程序公平”，这要求提出的价格是平等的期望之间的不同群体，和“实质公平”，这要求接受的价格是平等的期望之间的不同群体。一项政策，同时是程序和实质性的公平被称为“双重公平”。我们证明，双重公平政策必须是随机的，才能比向不同群体分配相同价格的最佳琐碎政策获得更高的收入。在两组设置中，我们提出了一个在线学习算法的2组定价问题，实现$\tilde{O}(\sqrt{T})$遗憾，零程序不公平和$\tilde{O}(\sqrt{T})$实质性的不公平超过$T$轮的学习。我们还证明了两个下界表明，这些结果的遗憾和不公平都是信息理论上最优的迭代对数因子。据我们所知，这是第一个在同时满足两个公平性约束的情况下学习定价的动态定价算法。
2022-09-23 cs.LG econ.EM stat.ML
DECAF: Generating Fair Synthetic Data Using Causally-Aware Generative Networks
University of Cambridge（剑桥大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；The Alan Turing Institute（艾伦图灵研究所）
机器学习模型因在训练数据中反映不公平的偏见而受到批评。我们不是通过直接引入公平学习算法来解决这个问题，而是专注于生成公平的合成数据，这样任何下游学习器都是公平的。从不公平的数据生成公平的合成数据-同时保持对底层数据生成过程（DGP）的真实性-是不平凡的。在本文中，我们介绍了DECAF：一个基于GAN的公平合成数据生成器的表格数据。使用DECAF，我们将DGP显式地嵌入生成器的输入层中作为结构因果模型，允许每个变量以其因果父变量为条件进行重建。这个过程使推理时间去偏置，其中偏置的边缘可以被策略性地移除，以满足用户定义的公平性要求。DECAF框架是通用的，与几种流行的公平性定义兼容。在我们的实验中，我们表明，DECAF成功地消除了不必要的偏见，并与现有的方法相比，能够生成高质量的合成数据。此外，我们提供了理论保证的发电机的收敛性和下游模型的公平性。
2021-11-04 cs.LG stat.ML
General Fair Empirical Risk Minimization
University of Genova（热那亚大学）；Amazon Web Services（亚马逊云科技）；Istituto Italiano di Tecnologia（意大利理工学院）；University College London（伦敦大学学院）
我们解决算法公平性的问题，其目标是避免敏感信息的不公平影响，在一般情况下，回归可能连续敏感属性。我们将公平经验风险最小化的框架扩展到这个一般场景，以这种方式覆盖整个标准的监督学习设置。我们的广义公平措施减少到公知的概念，在文献中的公平性。我们得到学习保证我们的方法，这意味着特别是它的统计一致性，无论是在风险和公平性的措施。然后，我们专门我们的方法，核方法，并提出了一个凸公平估计在该设置。我们测试的估计常用的基准数据集（社区和犯罪）和新的数据集收集在热那亚大学，包含5000名学生的学术生涯的信息。后一个数据集提供了一个具有挑战性的真实案例场景，即受益于我们的方法的标准回归方法的不公平行为。实验结果表明，我们的估计是有效的，在减轻准确性和公平性要求之间的权衡。
2019-12-27 cs.LG stat.ML
Fair Clustering: A Causal Perspective
ETH Zürich（苏黎世联邦理工学院）；Columbia University（哥伦比亚大学）
针对现有公平聚类方法未考虑因果机制、优化非因果公平性可能引发直接歧视的问题，提出结合因果公平性指标的聚类方法，支持指定需最小化的指标，并在含不公平偏差的数据集上验证了有效性。
2023-12-14 cs.CY cs.LG stat.ML
Individual Fairness in Pipelines
Radcliffe Institute for Advanced Study（拉德克利夫高等研究院）；Microsoft Research（微软研究院）；Harvard University（哈佛大学）
众所周知，一个由单独公平的组成部分构建的系统本身可能并不公平。在这项工作中，我们调查管道组成下的个人公平。管道不同于普通的顺序或重复组成，因为个人可能在任何阶段退出，随后阶段的分类可能取决于剩余的“群体”个人。举个例子，一家公司可能会为一个新项目雇佣一个团队，并在以后的某个时候提拔团队中表现最好的人。与其他重复分类设置不同，其中不公平程度在多个公平步骤中优雅地降低，管道中的不公平程度可以是任意的，即使在只有两个阶段的管道中也是如此。在一系列真实例子的指导下，我们提供了一个严格的框架来评估管道的不同类型的公平性保证。我们表明，天真的审计是无法发现系统的不公平，为了确保公平性，一定存在某种形式的依赖之间的设计算法在不同阶段的管道。最后，我们提供了在后期阶段允许灵活性的结构，这意味着在构建早期阶段时不需要锁定整个管道。
2020-04-12 cs.CY cs.LG stat.ML
Explainability for fair machine learning
Faculty（学院/系）
随着机器学习模型做出或影响的决策越来越多地影响我们的生活，检测、理解和减轻不公平变得至关重要。但是，即使是简单地确定“不公平”在特定背景下应该意味着什么，也是不平凡的：有许多相互竞争的定义，在它们之间做出选择通常需要对基本任务有深刻的理解。因此，使用模型的可解释性来深入了解模型的公平性是很有吸引力的，然而现有的可解释性工具并不能可靠地表明模型是否确实公平。在这项工作中，我们提出了一种新的方法来解释公平的机器学习，基于Shapley值范式。我们的公平性解释将模型的整体不公平性归因于单个输入特征，即使在模型不直接对敏感属性进行操作的情况下。此外，出于Shapley可解释性的线性，我们提出了一种应用现有训练时间公平性干预的Meta算法，其中一个训练扰动到原始模型，而不是一个新的模型。通过解释原始模型、扰动和公平校正模型，我们可以深入了解干预所带来的准确性-公平性权衡。我们进一步表明，这种Meta算法享有灵活性和稳定性的好处，没有损失的性能。
2020-10-14 cs.AI cs.LG stat.ML
How unfair is private learning ?
ETH Zürich（苏黎世联邦理工学院）
随着机器学习算法被部署在关键决策过程中的敏感数据上，它们的私密性和公平性变得越来越重要。在本文中，我们表明，当数据具有长尾结构，它是不可能建立准确的学习算法，这是私人的，结果在少数亚群更高的精度。我们进一步表明，放宽整体准确性，即使有严格的隐私要求，也可以带来良好的公平性。为了在实践中证实我们的理论结果，我们使用各种合成，视觉（CIFAR10和CelebA）和表格（法学院）数据集和学习算法提供了一组广泛的实验结果。
2022-12-24 cs.CR cs.LG stat.ML
Path-Specific Counterfactual Fairness
我们考虑的问题，学习公平的决策系统在复杂的情况下，一个敏感的属性可能会影响决策沿着公平和不公平的途径。我们引入了一个因果关系的方法来忽略不公平的途径，简化和概括以前的文献的影响。我们的方法纠正观察不利影响的敏感属性，并使用这些来形成一个决定。这避免了忽视公平信息，并且不需要对路径特定效应进行通常难以处理的计算。我们利用深度学习和近似推理的最新发展来实现广泛适用于复杂非线性场景的解决方案。
2018-02-22 stat.ML
Legally grounded fairness objectives
bristol.ac.uk（布里斯托尔大学）
最近的工作已经确定了一些形式上不兼容的操作措施的不公平的机器学习（ML）系统。由于这些衡量标准都反映了公平制度的直观可取方面，因此不可能选择“唯一真实”的衡量标准，相反，合理的方法是尽量减少衡量标准的加权组合。然而，这只是提出了如何选择权重的问题。在这里，我们制定了基于法律的公平目标（LGFO），它使用来自法律系统的信号来非任意地衡量特定程度的不公平的社会成本。LGFO是推定诉讼下的预期损害赔偿，可能会判给那些被错误分类的人，从这个意义上说，ML系统做出的决定与法院首选措施下做出的决定不同。值得注意的是，计算LGFO所需的两个量，法院对公平措施的偏好，以及预期的损害赔偿，是未知的，但定义明确，可以通过法律咨询来估计。此外，由于法律制度规定的损害赔偿是为了衡量和补偿不公平分类对个人造成的伤害，《地方政府平等办公室法》与社会对社会成本的估计密切相关。
2020-09-24 cs.CY cs.LG stat.ML
Efficient Fair Principal Component Analysis
College of Information Sciences and Technology（信息科学与技术学院）；School of Electrical Engineering and Computer Science（电气工程与计算机科学学院）；The Pennsylvania State University（宾夕法尼亚州立大学）；Microsoft Bing（微软必应）
已经表明，诸如PCA的降维方法可能固有地倾向于不公平，并且处理来自不同敏感群体（诸如种族、肤色、性别等）的数据，不公平为了追求公平性增强的降维，使用帕累托最优的概念，我们提出了一个自适应的一阶算法来学习一个子空间，保持公平性，同时稍微妥协的重建损失。从理论上讲，我们提供了充分的条件，该算法的解决方案属于帕累托边界的所有敏感组，从而保证了整体重建损失和公平性约束之间的最佳权衡。我们还提供了我们的算法的收敛性分析，并显示其有效性，通过不同的数据集上的实证研究，表现出优越的性能相比，国家的最先进的算法。该算法可以有效地推广到多个组敏感特征，并有效地减少下游任务（如分类）中的不公平决策。
2020-03-08 cs.DS cs.LG math.OC
Learning Controllable Fair Representations
Computer Science Department, Stanford University（斯坦福大学计算机科学系（注：根据机构粒度要求，此处提取到大学级别，即“斯坦福大学”；但原文明确给出“Computer Science Department”，按要求提取到大学/学院级别即可，此处保留“斯坦福大学计算机科学系”更准确，因该系是斯坦福大学的下属机构，属于大学级别）}]} 修正：根据要求，机构粒度提取到大学/学院/公司/研究院级别即可，不要细拆到系。因此正确应为：{）；Stanford University（斯坦福大学）
学习可转移的数据表示，并且对于某些受保护的属性是公平的，这对于减少不公平的决策，同时保持数据的效用至关重要。我们提出了一个信息理论动机的目标，学习最大限度地表达表示公平的约束。我们证明了一系列现有的方法优化近似拉格朗日对偶我们的目标。与这些现有的方法相比，我们的目标允许用户通过指定不公平的限制来控制表示的公平性。利用对偶性，我们引入了一种方法，优化模型参数以及表达公平性的权衡。经验证据表明，我们提出的方法可以平衡多种公平概念之间的权衡，并以较低的计算成本实现更高的表现力。
2020-03-14 cs.AI cs.LG stat.ML
Within-group fairness: A guidance for more sound between-group fairness
Samsung Electronics Co.（三星电子公司）；Konkuk University（建国大学）；Seoul National University（首尔国立大学）
由于人工智能算法对社会决策有着至关重要的影响，因此它们不仅应该准确，而且不应该对某些敏感群体（例如，非白人女性）。已经开发了各种专门设计的AI算法，以确保训练的AI模型在敏感群体之间是公平的。在本文中，我们提出了一个新的问题，即组间公平AI模型可能会不公平地对待同一敏感组中的个体。我们引入了一个新的公平性概念，即组内公平性，它要求AI模型对同一敏感组中的人以及不同敏感组中的人都是公平的。我们具体化组内公平的概念，提出相应的数学定义和开发学习算法，以控制组内公平和组间公平的同时。数值研究表明，所提出的学习算法提高组内的公平性，而不牺牲准确性以及组间的公平性。
2023-01-20 cs.CY cs.LG stat.AP
Learning Individually Fair Classifier with Path-Specific Causal-Effect Constraint
NTT（日本电信电话株式会社）；The University of Tokyo（东京大学）；Kyoto University（京都大学）
机器学习用于为各个领域的个体做出决策，这要求我们在实现良好预测准确性的同时，确保关于敏感特征的公平性（例如，种族和性别）。然而，这个问题在复杂的现实世界场景中仍然很困难。为了量化这种情况下的不公平性，现有方法利用{ \it路径特异性因果效应}。然而，没有一种方法能够在不对数据进行不切实际的功能假设的情况下确保对每个人的公平性。在本文中，我们提出了一个更实用的框架来学习一个单独的公平分类器。为了避免限制性的功能假设，我们定义了{ \it概率的个人不公平}（PIU）和解决的优化问题，其中PIU的上限，这可以从数据估计，控制接近零。我们阐明了为什么我们的方法可以保证每个人的公平性。实验结果表明，我们的方法可以学习一个单独的公平的分类器在一个轻微的成本的准确性。
2021-02-26 cs.AI cs.LG stat.ML
TowerDebias: A Novel Unfairness Removal Method Based on the Tower Property
University of California Davis（加州大学戴维斯分校）
提出基于塔性质的后处理方法towerDebias（tDB），无需重新训练或了解内部结构即可消除黑盒模型预测中敏感属性的影响，并在多数据集上验证了其公平性改进效果。
2025-04-02 cs.AI cs.LG math.PR
