GFairHint: Improving Individual Fairness for Graph Neural Networks via Fairness Hint
University of Maryland（马里兰大学）；College of Information Studies, University of Maryland（马里兰大学信息研究学院）
针对现有图神经网络个体公平性方法无法同时兼顾性能平衡、多相似性适配、模型通用性和计算效率的问题，提出GFairHint方法，通过辅助链接预测任务生成公平性提示，在多数据集多模型上实现公平性最优且效用相当、成本更低。
2025-01-13 cs.CY cs.LG cs.SI
FairACE: Achieving Degree Fairness in Graph Neural Networks via Contrastive and Adversarial Group-Balanced Training
College of Liberal Arts and Sciences, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校文理学院）
针对图神经网络中度偏差导致不同度节点预测性能不平等问题，提出FairACE框架，结合非对称对比学习与对抗训练，通过组平衡公平损失和AD指标，提升度公平性且保持精度。
2025-04-15 cs.AI cs.LG cs.SI
Cauchy-Schwarz Fairness Regularizer
University of California, Irvine（加州大学尔湾分校）；Purdue University Northwest（普渡大学西北分校）
本文提出了一种基于Cauchy-Schwarz发散性的公平性正则化器，通过改进距离度量的性质，提升公平性指标性能并保持模型准确性。
2025-12-10 cs.LG
Fix Representation (Optimally) Before Fairness: Finite-Sample Shrinkage Population Correction and the True Price of Fairness Under Subpopulation Shift
Department of Biostatistics, Vanderbilt University Medical Center, Nashville, TN 37232, USA（生物统计学系，范德比尔特大学医学中心）；Department of Informatics, King's College London, WC2R 2LS London, UK（信息学系，国王学院伦敦）
本文提出在公平性之前通过有限样本收缩校正优化表示，以揭示真实公平性代价，通过实验验证该方法有效消除虚假权衡。
2026-02-05 cs.LG
Is It Still Fair? Investigating Gender Fairness in Cross-Corpus Speech Emotion Recognition
National Tsing Hua University（国立清华大学）
本文研究跨语料库语音情感识别中性别公平性的泛化问题，提出组合公平性适配机制以同时处理源和目标性别，从而在迁移学习任务中提升性别公平性。
2025-01-02 cs.LG
Online Learning with Multiple Fairness Regularizers via Graph-Structured Feedback
Department of Mathematics, National University of Singapore（新加坡国立大学数学系）；Department of Computer Science, Czech Technical University（捷克技术大学计算机科学系）；Dyson School of Design Engineering, Imperial College London（伦敦帝国理工学院设计工程戴森学院）；Imperial College London（伦敦帝国理工学院）
本文针对在线决策中多重公平约束的权重自适应问题，提出了一种基于图结构反馈的赌博机算法，能够在不预先知道权重的情况下在线学习并平衡多个公平性目标。
2026-05-22 cs.AI cs.LG
Correct-By-Construction: Certified Individual Fairness through Neural Network Training
Singapore Management University（新加坡国立管理学院）
本文提出一个构造即正确的个体公平性训练框架，通过可证明公平的初始化和基于随机化响应机制的公平保持训练算法，在无需训练期神经网络验证的情况下，形式化保证并高效地训练出既公平又准确的模型。
2025-08-21 cs.LG
A Convex Framework for Fair Regression
University of Pennsylvania（宾夕法尼亚大学）
我们介绍了一个灵活的家庭的公平正规化（线性和逻辑）回归问题。这些正则化器都具有凸性，允许快速优化，并且它们跨越了从群体公平到强个体公平的概念。通过改变公平正则化器的权重，我们可以计算任何给定数据集上的准确性-公平性权衡的有效边界，并且我们通过我们称为公平价格（PoF）的数值来衡量这种权衡的严重性。我们研究结果的核心是对六个不同数据集的PoF进行了广泛的比较研究，其中公平性是首要考虑因素。
2017-06-07 cs.LG stat.ML
Kernel Dependence Regularizers and Gaussian Processes with Applications to Algorithmic Fairness
University of Oxford（牛津大学）；Universitat de València（瓦伦西亚大学）
目前机器学习在工业、社会和经济活动中的采用引起了人们对自动化决策的公平、公正和道德的担忧。预测模型通常是使用有偏差的数据集开发的，因此在决策和建议中保留甚至加剧了偏见。删除敏感协变量（如性别或种族）不足以解决此问题，因为偏倚可能因其他相关协变量而保留。我们提出了一种正则化方法来解决这个问题，该方法权衡了学习模型的预测准确性（相对于有偏见的标签），以获得统计奇偶性方面的公平性，即决策与敏感协变量的独立性。特别是，我们考虑再生核希尔伯特空间的正则化经验风险最小化的一般框架，并施加一个额外的正则化的预测变量和敏感的协变量之间的依赖性，使用基于核的依赖性的措施，即希尔伯特-施密特独立准则（HSIC）及其规范化版本。这种方法导致平方损失情况下的封闭形式的解决方案，即岭回归。此外，我们表明，依赖正则化修改相应的高斯过程（GP）前有一个解释。因此，可以导出具有鼓励对敏感变量公平的先验的GP模型，允许有原则的超参数选择和在公平约束下研究协变量的相对相关性。在合成的例子和收入和犯罪预测的实际问题的实验结果说明了这种方法，以提高自动化决策的公平性的潜力。
2019-11-11 cs.LG stat.ML
Using Property Elicitation to Understand the Impacts of Fairness Regularizers
Center for Research on Computation and Society, Harvard University（哈佛大学计算与社会研究中心）
本文借助属性引出研究公平性正则化项何时及如何改变损失最优解，给出损失与正则化项改变属性的充要条件，并通过实验分析数据分布和约束难度对算法决策的影响。
2023-12-18 cs.LG stat.ML
Accurate Fairness: Improving Individual Fairness without Trading Accuracy
State Key Laboratory of Computer Science, Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所计算机科学国家重点实验室）；University of Chinese Academy of Sciences（中国科学院大学）
准确性和个体公平性对于可信的机器学习都是至关重要的，但这两个方面往往是相互不兼容的，因此增强一个方面可能会不可避免地牺牲另一个方面，从而产生真偏差或假公平的副作用。我们在本文中提出了一个新的公平标准，准确的公平性，个人的公平性与准确性。非正式地说，它要求个人和个人的类似对应方的待遇符合统一的目标，即，个人的基本事实我们证明，准确的公平性也意味着典型的组公平标准在一个联盟的类似的子种群。然后，我们提出了一个暹罗公平处理方法，以最大限度地减少准确性和公平性损失的机器学习模型下准确的公平性约束。据我们所知，这是第一次采用暹罗方法来缓解偏差。我们还提出了公平混淆矩阵为基础的指标，公平精度，公平召回，公平F1得分，量化准确性和个人公平之间的权衡。与流行的公平数据集的比较案例研究表明，我们的暹罗公平方法可以实现平均1.02%-8.78%的个人公平性正确率提高8.38%~ 13.69%，真实公平率提高10.09%~ 20.57%，公平F1分提高5.43%~ 10.01%，最先进的偏差缓解技术。这表明我们的暹罗公平方法确实可以在没有交易准确性的情况下提高个人公平性。最后，应用精确公平标准和Siamese公平方法来减轻真实携程数据集可能的服务歧视，平均公平地服务于比基线模型多112.33%的客户（具体地说，以精确公平的方式多81.29%的客户）。
2022-11-30 cs.CY cs.LG
SenSeI: Sensitive Set Invariance for Enforcing Individual Fairness
IBM Research（IBM研究院）；MIT-IBM Watson AI Lab（MIT-IBM沃森人工智能实验室）；University of Michigan（密歇根大学）
在本文中，我们将公平的机器学习视为不变的机器学习。我们首先制定了一个版本的个人公平性，强制某些敏感集的不变性。然后，我们设计了一个基于传输的正则化，强制执行这个版本的个人公平性，并开发了一个算法，以有效地最小化正则化。我们的理论结果保证了所提出的方法可以训练可证明公平的ML模型。最后，在实验研究中，我们证明了改进的公平性指标相比，最近的几个公平的训练程序的三个ML任务，容易受到算法偏见。
2021-04-01 cs.LG stat.ML
A Tale of Fairness Revisited: Beyond Adversarial Learning for Deep Neural Network Fairness
Khoury College of Computer Sciences（胡里计算机学院）；Northeastern University（东北大学）
出于自动化和人工智能技术时代对公平算法决策的需求，本技术报告提供了对深度学习中公平性对抗训练的理论见解。我们建立在以前的对抗公平性工作的基础上，展示了公平预测和模型性能之间的持续权衡，并探索了有助于抵消这种权衡的进一步机制。
2021-01-08 cs.AI cs.LG
Algorithmic Decision Making with Conditional Fairness
Tsinghua University（清华大学）；Zhejiang University（浙江大学）；Squirrel AI Learning（松鼠AI智适应教育）
公平性问题是决策系统中的一个重要问题。已经提出了各种公平性概念来衡量算法不公平的程度。在实践中，经常存在一组我们称之为公平变量的变量，它们是决策前的协变量，如用户的选择。在评估决策支持算法的公平性时，公平变量的影响无关紧要。因此，我们定义条件公平性作为一个更健全的公平性度量的公平性变量的条件。鉴于不同的先验知识的公平变量，我们证明了传统的公平符号，如人口统计学平价和均衡的赔率，是我们的条件公平符号的特殊情况。此外，我们提出了一个可导出的条件公平正则化器（DCFR），它可以集成到任何决策模型，跟踪算法决策的精度和公平性之间的权衡。具体来说，在我们的DCFR中提出了一种基于对抗表示的条件独立损失来衡量不公平的程度。通过在三个真实数据集上的大量实验，我们证明了我们的条件公平性符号和DCFR的优点。
2021-07-18 cs.LG stat.ML
Global Group Fairness in Federated Learning via Function Tracking
EPFL（洛桑联邦理工学院）；ETH Zurich（苏黎世联邦理工学院）
针对联邦学习中全局公平正则项难按客户端拆分的问题，提出基于MMD的低通信开销函数跟踪方案，可兼容主流联邦算法并保证收敛，还能简化差分隐私下的分析，实验验证了理论有效性。
2025-03-19 cs.LG math.OC stat.ME
Maxmin-Fair Ranking: Individual Fairness under Group-Fairness Constraints
ISI Foundation（ISI基金会）；Eurecat（Eurecat技术中心）
我们研究了一个新的问题，旨在尽量减少个人的不公平性时，强制执行组公平性约束排名的公平性。我们的建议是植根于分布最大最小公平理论，它使用随机化，以最大限度地提高预期的满意度最差的个人。我们设计了一个精确的多项式时间算法，找到最大最小公平分布的一般搜索问题（包括，但不限于，排名），并表明我们的算法可以产生的排名，同时满足给定的组公平性约束，确保最大可能的价值被带到个人。
2021-06-17 cs.AI cs.DS cs.LG
Error Parity Fairness: Testing for Group Fairness in Regression Tasks
University of Houston（休斯顿大学）
人工智能（AI）的应用围绕着人类生活越来越多方面的决策。社会的反应是对这种自动决策系统（ADS）的责任施加法律和社会期望。公平性是人工智能问责制的基本组成部分，涉及对个人和敏感群体的公正对待（例如，基于性别、种族）。虽然许多研究集中在公平学习和公平测试的分类任务，文献是相当有限的，如何检查回归任务的公平性。这项工作提出了误差奇偶性作为回归公平的概念，并介绍了一种测试方法来评估组公平性的基础上的统计假设检验程序。错误奇偶检验检查预测错误是否在敏感组中类似地分布，以确定ADS是否公平。然后是一个适当的排列测试，比较几个统计组，以探索差异和确定受影响的群体。通过对美国县级COVID-19预测的案例研究，证明了所提出的方法的有用性和适用性，该研究揭示了基于种族的预测误差差异。总体而言，所提出的回归公平性测试方法填补了公平机器学习文献中的空白，并可作为更大的问责制评估和算法审计的一部分。
2022-08-16 cs.CY cs.LG
Fairness Warnings and Fair-MAML: Learning Fairly with Minimal Data
University of California, Irvine（加州大学欧文分校）；Haverford College（哈弗福德学院）
出于对共享和传输公平机器学习工具的公平性影响的关注，我们提出了两种算法：公平性验证和公平MAML。第一种是模型不可知的算法，它提供了可解释的边界条件，当一个经过良好训练的模型在给定域中的类似但略有不同的任务上可能表现不佳时。第二个是一个公平的元学习方法来训练模型，可以快速微调到特定的任务，从只有少数样本实例，同时平衡公平性和准确性。我们使用相关基线通过实验证明了每个模型的个体效用，并提供了我们对K-shot公平性知识的第一个实验，即在只有K个数据点的新任务上训练公平模型。然后，我们说明了这两种算法作为一种组合方法的有用性，用于从新任务的几个数据点训练模型，同时使用公平性检验作为可解释的边界条件，在这种条件下，新训练的模型可能不公平。
2019-12-05 cs.LG stat.ML
To be Robust and to be Fair: Aligning Fairness with Robustness
Purdue University（普渡大学）
本文研究了对抗训练与攻击中公平性与准确率的关系，提出统一公平性攻击结构并证明其与准确率攻击的对齐性，实验表明该方法能同时提升两种指标的鲁棒性。
2023-03-31 cs.AI cs.LG
The Long Arc of Fairness: Formalisations and Ethical Discourse
Technical University of Denmark（丹麦技术大学）；Technische Universität Berlin（柏林工业大学）
近年来，算法决策（ADM）的形式化和建模公平性的想法已经发展到了一个复杂的专业化点。然而，关于公平的技术（形式化）和伦理话语之间的关系并不总是明确和富有成效的。我们从另一个角度出发，回顾了现有的公平性指标，并讨论了一些常见的问题。例如，程序和分配的公平性往往是形式化的，并静态地讨论，忽视了现状的结构性先决条件和特定干预措施的下游影响。然后，我们引入动态公平建模，一个更全面的方法，重新调整正式的公平指标与伦理话语的参数。动态公平模型包括（1）道德目标，（2）量化决策程序和结果的正式指标，以及（3）中期或长期下游影响。通过将公平相关过程的这些要素置于情境中，动态公平建模阐明了以前潜在的道德方面，从而提供了一个有用的工具来导航不同公平干预之间的权衡。为了说明该框架，我们讨论了一个示例应用程序-目前欧洲努力增加公司董事会中的女性人数，例如通过配额解决方案-并提出适合我们框架的早期技术工作。
2022-03-08 cs.CY cs.LG
A Notion of Individual Fairness for Clustering
University of Washington（华盛顿大学）；Rutgers University（罗格斯大学）；Google（谷歌）
在公平机器学习中，特别是在公平分类中，一个常见的区别是群体公平性和个体公平性。在聚类的背景下，群体公平性近年来得到了广泛的研究，然而，聚类的个体公平性几乎没有被探索。在本文中，我们提出了一个自然的概念，个人的公平聚类。我们的概念要求每个数据点，平均而言，比任何其他集群中的点更接近自己集群中的点。我们研究了几个问题，我们提出的个人公平的概念。在消极的一面，我们表明，决定一个给定的数据集是否允许这样一个单独的公平聚类一般是NP-难的。在积极的一面，对于一个数据集躺在真正的线的特殊情况下，我们提出了一个有效的动态规划方法来找到一个单独的公平聚类。对于一般的数据集，我们调查的目的是尽量减少个人违反公平的数量，并比较它们的标准聚类方法对真实的数据集。
2020-06-08 cs.LG stat.ML
Fair Representation: Guaranteeing Approximate Multiple Group Fairness for Unknown Tasks
National University of Singapore（新加坡国立大学）
受数据用于不同预测任务的场景的启发，我们研究了公平表示是否可以用于保证未知任务的公平性和同时用于多个公平概念。我们认为七组公平的概念，涵盖独立，分离和校准的概念。在公平不可能结果的背景下，我们探讨近似公平。我们证明，虽然公平表示可能无法保证所有预测任务的公平性，但它确实保证了一个重要的任务子集的公平性-表示是有区别的任务。具体而言，所有七个组公平性概念是线性控制的公平性和歧视性的表示。当不同的公平概念之间存在不相容时，公平和歧视性的表示达到了近似满足所有概念的最佳点。出于我们的理论研究结果，我们建议学习公平和歧视性的表示使用借口损失自我监督学习，和最大平均离散作为一个公平的正则化。在表格，图像和人脸数据集上的实验表明，使用学习的表示，我们在学习表示时不知道的下游预测确实对七个组公平性概念变得更公平，并且根据我们的理论结果计算的公平性保证都是有效的。
2022-02-20 cs.CV cs.CY cs.LG
Fairness Under Composition
Harvard John A. Paulson School of Engineering and Applied Science, Harvard University（哈佛大学哈佛约翰·A·保尔森工程与应用科学学院）；Radcliffe Institute for Advanced Study（拉德克利夫高等研究院）
算法公平性，特别是评分和分类算法的公平性，已经成为越来越多的社会关注的话题，并且最近见证了理论计算机科学、机器学习、统计学、社会科学和法律的研究爆炸式增长。大部分文献考虑了单独使用一次的单个分类器（或评分函数）的情况。在这项工作中，我们开始研究的公平性的算法组成的系统，是公平的隔离，也就是说，我们研究公平下的组成。我们确定的陷阱天真的组成，并给出一般的公平组成的结构，证明了公平的分类器，孤立地不一定组成公平的系统，也似乎不公平的组件可能会仔细结合起来，构建公平的系统。我们主要关注[Dwork，Hardt，Pitassi，Reingold，Zemel，2011]中提出的个人公平设置，但也将我们的结果扩展到最近文献中流行的一大类群体公平定义，展示了几种情况，其中群体公平定义在组合下给出了误导性信号。
2018-11-20 cs.LG stat.ML
Optimal Transport of Classifiers to Fairness
Ghent University（根特大学）
在过去关于机器学习公平性的工作中，重点是迫使分类器的预测对于不同人口统计学特征的人具有相似的统计属性。为了减少对这些属性的违反，公平性方法通常简单地重新调整分类器分数，忽略不同群体成员之间的相似性和差异性。然而，我们假设这些信息是相关的量化给定分类器的不公平性。为了验证这一假设，我们引入了最优公平传输（OTF），这是一种将违反公平约束量化为概率分类器和满足这些约束的任何评分函数之间的最小最优传输成本的方法。对于一类灵活的线性公平约束，我们构建了一个实用的方法来计算OTF作为一个可微的公平正则化，可以添加到任何标准的分类设置。实验表明，OTF可以用来实现预测能力和公平性之间的改进的权衡。
2022-11-29 cs.LG stat.ML
End-to-End Fairness Optimization with Fair Decision-Focused Learning
School of Business Stevens Institute of Technology（史蒂文斯理工学院商学院）
该研究提出端到端公平性优化框架及公平决策聚焦学习范式，结合多任务学习处理预测与决策阶段的公平性问题，通过数值实验验证其在资源分配场景的有效性。
2026-08-11 cs.LG math.OC
What is Fair? Exploring Pareto-Efficiency for Fairness Constrained Classifiers
Courant Institute of Mathematical Sciences, New York University（纽约大学柯朗数学科学研究所）；Google AI（谷歌人工智能）
学习模型放大现有社会偏见的潜力已得到广泛认可。公平感知分类器约束，它适用于在敏感属性（如种族和性别）上定义的子组之间的性能的平等度量，试图纠正不公平，但可能会产生不均匀的性能下降偏斜的数据集。在某些领域，不平衡的性能下降可能会产生另一种形式的无意偏见。本着构建公平意识算法作为社会当务之急的精神，我们探索了一种替代方案：帕累托有效公平（PEF）。从理论上讲，我们证明了PEF确定的帕累托曲线上的分组性能最接近的公平超平面，最大限度地提高多个子群的准确性的操作点。从经验上讲，我们证明，PEF优于实现帕累托水平的准确性相比，严格的公平性约束，在几个UCI数据集的所有子组。
2019-10-30 cs.LG stat.ML
Recovering Fairness Directly from Modularity: a New Way for Fair Community Partitioning
School of Mathematics and Statistics（数学与统计学学院）；Xidian University（西安电子科技大学）；City Faculty of Data Science（数据科学城市学院）；University of Macau（澳门大学）；College of Mathematical Medicine（数学医学学院）；Zhejiang Normal University（浙江师范大学）
针对传统模块度社区划分忽视公平性的问题，提出公平-模块度指标与FairFN算法，在保持划分质量的同时显著提升公平性，尤其适用于不平衡数据集。
2025-05-27 cs.LG cs.SI
FFB: A Fair Fairness Benchmark for In-Processing Group Fairness Methods
Texas A&M University（德克萨斯农工大学）；Meta AI；Anytime AI；UIUC（伊利诺伊大学厄巴纳-香槟分校）；University of Houston（休斯顿大学）；Rice University（莱斯大学）
本文提出开源基准框架FFB，通过统一实验设置、提供可扩展代码和标准化流程，对处理中群体公平性方法进行大规模评估，以促进公平性研究社区发展。
2024-06-11 cs.AI cs.CY cs.LG
Fair Mixup: Fairness via Interpolation
CSAIL, MIT（麻省理工学院计算机科学与人工智能实验室）；IBM Research AI（IBM研究院人工智能部门）
在公平性约束（如组公平性）下训练分类器，使组之间的预测差异规则化。然而，即使在训练过程中满足了约束条件，它们在评估时也可能无法推广。为了提高公平分类器的泛化能力，我们提出了公平混淆，一个新的数据增强策略施加公平约束。特别是，我们表明，公平性，可以通过正规化的模型之间的插值样本的路径。我们使用mixup，一个强大的数据增强策略来生成这些插值。我们分析了公平的混淆，并实证表明，它确保了更好的概括性的准确性和公平性的测量表，视觉和语言基准。
2021-03-11 cs.CY cs.LG stat.ML
Cooperative Multi-Agent Fairness and Equivariant Policies
Cornell University（康奈尔大学）；Cornell Tech（康奈尔科技学院）
我们通过合作多智能体学习的镜头来研究公平性。我们的工作是由经验证据，天真的团队奖励最大化产生不公平的结果，为个别团队成员的动机。为了解决多智能体环境中的公平性问题，我们引入了团队公平性，这是一种基于组的多智能体学习公平性度量。然后，我们证明了它是可能的，以加强团队的公平性，在政策优化过程中，通过将团队的联合政策转化为一个等变映射。我们将我们的多智能体学习策略称为通过等方差的公平性（Fair-E），并以经验证明其有效性。然后，我们引入公平通过等变正则化（公平ER）作为公平E的软约束版本，并表明它达到更高水平的效用比公平E和公平的结果比非等变政策。最后，我们提出了新的发现，在多代理设置的公平性效用权衡，显示权衡的幅度是依赖于代理的技能。
2022-01-19 cs.AI cs.LG cs.MA
Fairness Score and Process Standardization: Framework for Fairness Certification in Artificial Intelligence Systems
Telecommunication Engineering Centre（电信工程中心）；Ministry of Communications（通信部）；Adobe Inc.（奥多比公司）；Manipal Institute of Technology（马尼帕尔理工学院）
各种人工智能（AI）系统做出的决策极大地影响着我们的日常生活。随着人工智能系统的使用越来越多，知道它们是公平的，识别其决策中的潜在偏见，并创建一个标准化框架来确定其公平性变得至关重要。在本文中，我们提出了一种新的公平分数来衡量数据驱动的AI系统的公平性，以及为此类系统颁发公平认证的标准操作程序（SOP）。公平评分和审计流程标准化将确保质量，减少歧义，实现比较并提高人工智能系统的可信度。它还将提供一个框架，以实施公平的概念，并促进此类系统的商业部署。此外，由指定的第三方审计机构按照标准化流程颁发的公平证书将增强组织对其打算部署的人工智能系统的信心。本文提出的偏差指数还揭示了数据集中各种受保护属性之间的比较偏差。为了证实所提出的框架，我们使用多个数据集迭代地训练有偏和无偏数据的模型，并检查公平性分数和所提出的过程正确地识别偏差并判断公平性。
2022-01-10 cs.AI cs.CY cs.LG
Within-group fairness: A guidance for more sound between-group fairness
Samsung Electronics Co.（三星电子公司）；Konkuk University（建国大学）；Seoul National University（首尔国立大学）
由于人工智能算法对社会决策有着至关重要的影响，因此它们不仅应该准确，而且不应该对某些敏感群体（例如，非白人女性）。已经开发了各种专门设计的AI算法，以确保训练的AI模型在敏感群体之间是公平的。在本文中，我们提出了一个新的问题，即组间公平AI模型可能会不公平地对待同一敏感组中的个体。我们引入了一个新的公平性概念，即组内公平性，它要求AI模型对同一敏感组中的人以及不同敏感组中的人都是公平的。我们具体化组内公平的概念，提出相应的数学定义和开发学习算法，以控制组内公平和组间公平的同时。数值研究表明，所提出的学习算法提高组内的公平性，而不牺牲准确性以及组间的公平性。
2023-01-20 cs.CY cs.LG stat.AP
Can Synthetic Data be Fair and Private? A Comparative Study of Synthetic Data Generation and Fairness Algorithms
Centre for the Science of Learning & Technology (SLATE), University of Bergen（学习科学与技术中心（SLATE），卑尔根大学）；University of South Australia（澳大利亚南澳大利亚大学）
本研究探讨了合成数据生成与公平性算法在平衡隐私和公平性方面的效果，发现DECAF算法在隐私和公平性之间取得最佳平衡，但其预测准确性较低，而对合成数据应用预处理公平算法能进一步提升公平性。
2025-01-03 cs.AI cs.CY cs.LG
Probabilistic Verification of Neural Networks Against Group Fairness
Singapore Management University（新加坡管理大学）；Huawei Singapore（华为新加坡）；Chinese Academy of Science（中国科学院）
公平性是神经网络的一个重要问题，它被应用于具有重要社会意义的应用中。最近，已经有了关于改进神经网络的公平性的多次尝试，其焦点在于公平性测试（例如，生成个体歧视性实例）和公平性训练（例如，通过强化培训提高公平性）。在这项工作中，我们提出了一种方法来正式验证神经网络的公平性，重点是基于独立性的公平性，如组公平性。我们的方法建立在用于从用户提供的神经网络（即，前馈神经网络或递归神经网络），其保证便于声音分析。学习的马尔可夫链不仅允许我们验证（具有可能近似正确性保证）神经网络是否公平，而且还有助于敏感性分析，这有助于理解为什么违反公平性。我们证明了我们的分析结果，神经权重可以优化，以提高公平性。我们的方法已被评估与多个模型在基准数据集上训练，实验结果表明，我们的方法是有效的和高效的。
2021-07-18 cs.AI cs.CY cs.LG
Non-Comparative Fairness for Human-Auditing and Its Relation to Traditional Fairness Notions
Missouri University of Science and Technology（密苏里科技大学）
基于比较原则的传统算法公平性概念的基于机器学习的服务（MLS）中的偏差评估实际上是困难的，使得有必要依赖于人类审计员反馈。然而，尽管在各种比较公平的概念上接受了严格的培训，但众所周知，人类审计师在实践中对公平概念的各个方面都不同意，因此很难收集可靠的反馈。本文通过提出一种基于非比较正义原则的新的公平概念，为算法公平性领域提供了一个范式转换。与传统的公平概念相反，在传统的公平概念中，两个人/群体的结果进行比较，我们提出的概念比较MLS的结果与每个输入的期望结果。这个期望的结果自然描述了人类审计员的期望，并且可以很容易地用于在人群审计平台上评估MLS。我们表明，任何MLS可以被认为是公平的，从比较公平的角度来看（无论是在个人公平性，统计平价，平等机会或校准），如果它是非相对公平的一个公平的审计师。我们还表明，反之亦然的情况下，个人公平。鉴于这种评估依赖于审计师的可信度，我们还提出了一种方法，以确定公平和可靠的审计师，估计他们的偏见相对于一组给定的敏感属性，以及量化的不确定性在一个给定的MLS内的偏见估计。此外，所有上述结果也验证了COMPAS，德国信贷和成人普查收入数据集。
2021-06-29 cs.AI cs.HC cs.LG
Fairness Hacking: The Malicious Practice of Shrouding Unfairness in Algorithms
Data Protection Authority of Baden-Württemberg（巴登-符腾堡州数据保护局）；University of Tübingen（蒂宾根大学）；University of Stuttgart（斯图加特大学）
本文提出“公平性黑客”概念，揭示通过度量内和度量间两种方式滥用公平性指标以掩盖算法不公平性的恶意实践，并探讨相应对策及真实数据集演示，旨在指导社区减少此类滥用。
2023-11-12 cs.AI cs.CY cs.LG
Causal Context Connects Counterfactual Fairness to Robust Prediction and Group Fairness
University of Chicago（芝加哥大学）；University of California, Berkeley（加州大学伯克利分校）；Sentience Institute（感知研究所）
本文利用因果语境建立反事实公平性与鲁棒预测及群体公平性之间的联系，证明反事实公平预测器在无偏目标分布中可达到准确性最优，并揭示在测量误差、标签选择和预测变量选择三种情境下，反事实公平性分别等价于人口统计均等、均等化几率和校准。
2023-10-30 cs.AI cs.CY cs.LG
Fair Enough: Searching for Sufficient Measures of Fairness
North Carolina State University（北卡罗来纳州立大学）
测试机器学习软件的道德偏见已经成为当前一个紧迫的问题。作为回应，最近的研究提出了大量新的公平性指标，例如，IBM AIF 360工具包中的数十个公平性指标。这就提出了一个问题：任何公平工具如何能够满足如此多样化的目标？虽然我们不能完全简化公平测试的任务，但我们肯定可以减少这个问题。本文表明，许多这些公平性指标有效地衡量同样的事情。基于使用七个真实世界数据集的实验，我们发现（a）26个分类度量可以聚类为七组，（b）四个数据集度量可以聚类为三组。此外，每个精简集实际上可以预测不同的事情。因此，不再需要（甚至不可能）满足所有公平性度量。总之，为了简化公平性测试问题，我们推荐以下步骤：（1）确定什么类型的公平性是可取的（我们提供了一些这样的类型）;然后（2）在我们的聚类中查找这些类型;然后（3）每个聚类只测试一个项目。
2022-03-21 cs.CY cs.LG cs.SE
Conformalized Fairness via Quantile Regression
University of Alberta（阿尔伯塔大学）；University of Texas at Arlington（德克萨斯大学阿灵顿分校）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
在社会敏感领域，公平性越来越受到关注。虽然已经建立了丰富的文献平均公平，分位数公平的研究仍然稀少，但至关重要。为了满足巨大的需求，并倡导分位数公平的意义，我们提出了一种新的框架来学习一个实值分位数函数的公平性要求下的人口奇偶性的敏感属性，如种族或性别，从而获得一个可靠的公平预测区间。使用最优传输和功能同步技术，我们建立了理论保证的分布免费覆盖和公平分位数构造的诱导预测区间的精确公平性。提供了一个动手流水线，以将灵活的分位数回归与有效的公平性调整后处理算法相结合。我们在几个基准数据集上证明了这种方法的优越经验性能。我们的研究结果表明，该模型能够揭示在广泛的社会和医疗应用中公平性-准确性权衡的机制。
2022-10-14 cs.CY cs.LG stat.ML
Fairness in Credit Scoring: Assessment, Implementation and Profit Implications
Humboldt University of Berlin（柏林洪堡大学）
算法决策的兴起催生了对公平机器学习（ML）的大量研究。金融机构使用ML来构建风险记分卡，以支持一系列与信贷相关的决策。然而，关于信用评分中公平ML的文献很少。本文有三个贡献。首先，我们重新审视统计公平标准，并检查其是否足以进行信用评分。其次，我们将算法选项分类，以便在ML模型开发管道中纳入公平目标。最后，我们实证比较不同的公平处理器在利润为导向的信用评分的背景下，使用真实世界的数据。实证结果证实了公平措施的评价，确定合适的选项，以实施公平的信用评分，并澄清在贷款决策的利润公平权衡。我们发现，多个公平性标准可以近似地同时满足，并建议分离作为衡量记分卡公平性的适当标准。我们还发现，公平的处理器可以在利润和公平性之间实现良好的平衡，并表明算法歧视可以以相对较低的成本降低到合理的水平。与论文对应的代码可以在GitHub上找到。
2022-06-17 cs.LG q-fin.RM stat.ML
Personalized Counterfactual Fairness in Recommendation
Rutgers University（罗格斯大学）
随着越来越多的用户使用推荐系统进行信息搜索和决策，推荐系统对人类和社会产生了越来越重要的影响。因此，解决推荐中潜在的不公平问题至关重要。就像用户对物品有个性化偏好一样，用户对公平性的诉求在很多场景下也是个性化的。因此，为用户提供个性化的公平推荐，以满足其个性化的公平需求是非常重要的。此外，以往的公平推荐工作主要集中在基于关联的公平性。然而，重要的是要从关联公平的概念，因果公平的概念，更恰当地评估公平的推荐系统。基于上述考虑，本文重点研究了在推荐系统中实现个性化的反事实公平性。为此，我们引入了一个框架，通过生成功能独立的用户嵌入推荐，通过对手学习实现反事实公平的建议。该框架允许推荐系统实现个性化的公平性，同时也涵盖非个性化的情况下，用户。在两个真实数据集上使用浅层和深层推荐算法进行的实验表明，该方法可以为用户生成更公平的推荐，并具有理想的推荐性能。
2021-11-05 cs.AI cs.IR cs.LG
Exploring User Opinions of Fairness in Recommender Systems
University of Colorado（科罗拉多大学）
随着这些系统在社会中变得越来越普遍，人工智能的算法公平性变得越来越重要。人工智能的一个领域，推荐系统，由于在优化用户的准确性和提供商的公平性之间进行权衡，因此对公平性提出了独特的挑战。但是，在建议的背景下，什么是公平的-特别是在有多个利益攸关方的情况下？在这个问题的初步探索，我们问用户他们的想法，公平对待的建议可能是，为什么。我们分析了什么可能导致用户对公平性的意见之间的差异或变化，最终帮助设计更公平，更透明的推荐算法。
2020-04-17 cs.HC cs.IR cs.LG
Two Simple Ways to Learn Individual Fairness Metrics from Data
University of Michigan（密歇根大学）；IBM Research（IBM研究院）；MIT-IBM Watson AI Lab（MIT-IBM沃森人工智能实验室）
个体公平是算法公平的直观定义，它解决了群体公平的一些缺点。尽管它有好处，但它取决于特定于任务的公平度量，该度量编码了我们对手头ML任务的公平和不公平的直觉，并且许多ML任务缺乏广泛接受的公平度量是更广泛采用个人公平性的主要障碍。在本文中，我们提出了两种简单的方法来从各种数据类型中学习公平的度量。我们的经验表明，公平的训练与学习的指标导致提高公平性的三个机器学习任务容易受到性别和种族偏见。我们还提供了理论保证这两种方法的统计性能。
2020-06-19 cs.LG stat.ME stat.ML
Remembering to Be Fair: Non-Markovian Fairness in Sequential Decision Making
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Schwartz Reisman Institute for Technology and Society（施瓦茨·赖斯曼技术与社会研究所）；University of Waterloo（滑铁卢大学）
针对序列决策中公平性依赖历史、需过程中评估的非马尔可夫特性，本文界定其多类性质，探究记忆与公平策略构建的关联，提出可自动扩充训练数据提升强化学习公平策略合成样本效率的FairQCM算法。
2024-06-19 cs.AI cs.CY cs.LG
"And the Winner Is...": Dynamic Lotteries for Multi-group Fairness-Aware Recommendation
University of Colorado, Boulder（科罗拉多大学博尔德分校）；Tulane University（杜兰大学）；DePaul University（德保罗大学）；IBM Watson Research Center（IBM沃森研究中心）
随着推荐系统的设计和部署越来越多的社会后果的应用程序，它已成为重要的是要考虑这些系统的公平性。关于推荐的公平性已经有了相当多的研究。然而，我们认为，以前的文献一直是基于简单的，统一的，往往是一维的公平假设的概念，不承认现实世界的复杂性，公平意识的应用程序。在本文中，我们明确表示的设计决策，进入多个定义和交叉保护组的准确性和公平性之间的权衡，支持多个公平性指标。该框架还允许推荐器调整其性能的基础上，已交付的建议，在一个时间范围内的历史视图，动态重新平衡公平性的关注。在这个框架内，我们制定了基于彩票的公平性问题之间的选择机制，并证明了他们的性能在两个推荐域。
2020-09-05 cs.AI cs.IR cs.LG
Fair Without Leveling Down: A New Intersectional Fairness Definition
Univ. Lille（里尔大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）
针对分类场景下交叉群体公平问题，提出结合绝对与相对性能的α交叉公平新定义，经基准测试发现现有公平方法存在拉平最优群体性能而非提升最差群体性能的问题。
2023-11-07 cs.CL cs.CY cs.LG
On the Identification of Fair Auditors to Evaluate Recommender Systems based on a Novel Non-Comparative Fairness Notion
Missouri University of Science and Technology（密苏里科技大学）
决策支持系统是指在司法、房地产和银行等领域为人们的决策提供支持的信息系统。最近，人们发现这些支助系统在许多实际部署中具有歧视性。为了评估和减轻这些偏见，算法公平性文献已经使用比较正义的概念进行了培育，这主要依赖于比较社会中的两个或多个个体或群体，这些系统得到了支持。然而，这种公平的概念是不是很有用的，在确定公平的审计师谁聘请评估决策支持系统内的潜在偏见。作为解决方案，我们引入了一个范式转变的算法公平性通过提出一个新的公平性概念的基础上的原则，非比较正义。假设审计师根据决策支持系统的某些（可能未知的）期望属性进行公平性评估，则建议的公平性概念将系统的结果与审计师的期望结果进行比较。我们表明，建议的公平性概念也提供了保证，在比较公平的概念，证明任何系统可以被认为是公平的，从比较公平的角度来看（如个人公平性和统计平价），如果它是非相对公平的审计师谁被认为是公平的，就相同的公平性概念。我们还表明，反之亦然的情况下，个人公平。一个简短的讨论也提出了关于我们的公平概念可以用来识别公平和可靠的审计师，以及我们如何可以使用它们来量化决策支持系统中的偏见。
2020-09-09 cs.AI cs.CY cs.HC
On the (In)Compatibility between Group Fairness and Individual Fairness
University of California Davis（加州大学戴维斯分校）；Center of Data Science and Artificial Intelligence Research（数据科学与人工智能研究中心）
本文研究最优统计均等与个体公平的兼容性条件，在冲突时通过 Pareto 前沿刻画二者最优权衡，并给出后处理模型的个体公平保证，为实践者提供兼顾统计均等 Pareto 最优性与个体公平约束的方法。
2024-01-13 cs.CY cs.LG math.ST
