Assessing Predictive Models for Fairness Based on Activity-Space Patterns
University of Padua（帕多瓦大学）
针对预测模型的空间公平性，提出将公平性概念从单一地理位置扩展到移动模式，并采用空间扫描统计方法检测基于移动模式的不公平性。
2026-09-11 cs.CY cs.LG
Assessing Multilingual Fairness in Pre-trained Multimodal Representations
University of California, Santa Cruz（加州大学圣克鲁兹分校）
最近预训练的多模态模型，如CLIP，在连接图像和自然语言方面表现出了卓越的能力。英语的文本表征可以被期望地转移到多语言，并支持不同语言的下游多模态任务。然而，多语言公平原则很少被仔细审查：多语言多模态模型是否平等对待语言？他们的表现是否偏向于特定的语言？为了回答这些问题，我们将语言视为公平性的接受者，并为预训练的多模态模型引入了两个新的公平性概念，多语言个体公平性和多语言群体公平性。多语言个体公平性要求不同语言中表达相似语义的文本片段与图像的连接相似，而多语言群体公平性要求跨语言的预测性能均衡。我们描述了预先训练的多语言视觉和语言表示在多大程度上对不同语言都是公平的。然而，大量的实验表明，多语言表示并不能满足群体公平性：（1）存在严重的多语言准确性差异问题;（2）错误表现出跨语言的偏见，影响图像中的人群，包括种族，性别和年龄。
2022-03-16 cs.AI cs.CL cs.LG
Assessing Fairness in the Presence of Missing Data
University of Pennsylvania（宾夕法尼亚大学）
缺失数据是普遍存在的，并在实际数据分析中提出了艰巨的挑战。虽然有越来越多的文献在充分观察的数据分析的公平性，有很少的理论工作，调查不完整数据分析的公平性。在实践中，处理缺失数据的流行分析方法是仅使用完整案例集，即，完全观察到所有特征的观测值来训练预测算法。然而，根据缺失数据机制，完整病例的分布和完整数据的分布可能会有很大的不同。当目标是在没有缺失值的完整数据域中开发公平算法时，在完整案例域中公平的算法可能会对完整数据域中的某些边缘化群体表现出不成比例的偏见。为了填补这一重大差距，我们研究的问题，估计公平性在完整的数据域的任意模型评估，仅仅使用完整的情况下。我们提供的公平性估计误差的上限和下限，并进行数值实验，以评估我们的理论结果。我们的工作提供了第一个已知的理论结果，在不完全数据分析的公平性保证。
2021-12-07 cs.AI cs.LG
seeBias: A Comprehensive Tool for Assessing and Visualizing AI Fairness
Duke-NUS Medical School（杜克-新加坡国立大学医学院）；National University of Singapore（新加坡国立大学）；NUS Artificial Intelligence Institute（新加坡国立大学人工智能研究院）
本文提出 seeBias R 包，通过整合分类、校准等多维度评估与可视化，弥补现有公平性工具忽视校准等关键方面的不足，并在刑事司法和医疗数据上验证其能发现传统指标遗漏的差异。
2025-04-11 cs.AI cs.LG
LangFair: A Python Package for Assessing Bias and Fairness in Large Language Model Use Cases
CVS Health Corporation（CVS健康公司）
本文介绍了开源Python包LangFair，旨在为LLM从业者提供评估特定用例中偏见与公平性风险的工具，支持生成评估数据集、计算适用指标，并提供决策框架指导指标选择。
2025-01-06 cs.AI cs.CL cs.CY
A Data Envelopment Analysis Approach for Assessing Fairness in Resource Allocation: Application to Kidney Exchange Programs
Department of Statistics and Data Science, University of California, Los Angeles（统计与数据科学系，加州大学洛杉矶分校）
本文提出一种基于数据包络分析的方法，用于评估肾交换计划中资源分配的公平性，通过多个维度分析不同种族群体的效率差异。
2025-12-07 cs.CY cs.LG stat.ME
Assessing Perceived Fairness from Machine Learning Developer's Perspective
University of Nebraska（内布拉斯加大学）
本文通过焦点小组探索机器学习开发者对公平性的感知，发现开发者关注整体应用设计与开发流程，且组织正义理论的程序方面能解释其公平性感知，有助于团队在开发生命周期中整合公平性并制定最佳实践。
2023-04-07 cs.CY cs.HC cs.LG
Assessing Uncertainty in Similarity Scoring: Performance & Fairness in Face Recognition
LTCI, Télécom Paris, Institut Polytechnique de Paris（LTCI、巴黎电信学院、巴黎理工学院）；Idemia（安道集团）
本文针对人脸识别中相似度评分的ROC曲线及公平性指标，提出基于U统计量渐近理论和专门重新中心化技术的可靠不确定性评估方法，并通过真实人脸数据集实验验证其有效性。
2024-02-20 cs.AI cs.CV cs.LG
On (assessing) the fairness of risk score models
Technical University of Denmark（丹麦技术大学）；Pioneer Centre for AI（人工智能先锋中心）；University of Copenhagen（哥本哈根大学）；Rigshospitalet（哥本哈根大学国立医院）
最近关于算法公平性的工作主要集中在离散决策或分类的公平性上。虽然这种决定往往是基于风险评分模型，风险模型本身的公平性得到了相当少的关注。风险模型之所以令人感兴趣，原因有很多，包括它们向用户传达了潜在结果的不确定性，从而代表了一种能够进行有意义的人类监督的方式。在这里，我们解决风险评分模型的公平性需求。我们确定提供类似的认知价值，以不同的群体作为一个关键的必要条件，风险评分公平。此外，我们将讨论如何定量评估风险评分模型的公平性，包括对指标选择和组间有意义的统计比较的讨论。在这种情况下，我们还介绍了一种新的校准误差度量，这是样本量偏置比以前提出的指标，使不同大小的群体之间的有意义的比较。我们说明了我们的方法-这是广泛适用于许多其他设置-在两个案例研究，一个在累犯风险预测，一个在风险的重性抑郁症（MDD）预测。
2023-02-22 cs.CY cs.LG stat.AP
Assessing Phenotype Definitions for Algorithmic Fairness
Columbia University（哥伦比亚大学）
疾病识别是观察性健康研究的核心和常规活动。队列影响下游分析，例如如何表征病情，如何定义患者风险以及研究什么治疗方法。因此，关键是要确保选定的队列代表所有患者，而不考虑其人口统计学或健康的社会决定因素。虽然在构建可能影响其公平性的表型定义时存在多个潜在偏倚来源，但在表型分型领域，考虑不同定义对患者亚组的影响并不标准。在本文中，我们提出了一套最佳实践来评估表型定义的公平性。我们利用预测模型中常用的已建立的公平性指标，并将其与常用的流行病学队列描述指标相关联。我们描述了一项针对克罗恩病和2型糖尿病的实证研究，每个研究都有多个表型定义，这些定义来自两组患者亚组（性别和种族）的文献。我们发现，不同的表型定义表现出广泛的变化和不同的性能，根据不同的公平性指标和分组。我们希望所提出的最佳实践可以帮助构建公平和包容性的表型定义。
2022-08-27 cs.AI cs.LG q-bio.OT
Let's Unlearn Stereotypes Before Decision-Making: Assessing the Impact of Intrinsic Bias Mitigation on Downstream Fairness in LLMs
本研究提出公平感知概念忘却（FACU）方法，在保留预测性能的同时缓解LLM内在偏差，可提升下游公平性，结合反事实数据增强效果更佳，为LLM公平性优化提供了新路径。
2026-08-10 cs.CL cs.CY cs.LG
The Role of Uncertainty in Assessing the Fairness of Machine Learning Models
Università della Svizzera Italiana (USI)（瑞士意大利语区大学）
本文探讨机器学习模型公平性评估中的不确定性量化，提出频率派和贝叶斯方法，并通过模拟和真实数据示例展示其应用与影响。
2026-09-09 cs.LG stat.ME stat.ML
Position Paper: Assessing Robustness, Privacy, and Fairness in Federated Learning Integrated with Foundation Models
Auburn University（亚伯拉罕大学）；University of Alabama at Birmingham（阿拉巴马大学伯明翰分校）
该立场文件针对集成基础模型的联邦学习，系统评估其在鲁棒性、隐私性、公平性维度的影响，分析权衡、揭示问题、提出应对策略与研究方向，为构建可靠安全公平的联邦学习系统奠基。
2025-10-05 cs.CR cs.CY cs.LG
How fair can we go in machine learning? Assessing the boundaries of fairness in decision trees
Trilateral Research（三边研究公司）；Data Justice Lab, Cardiff University（卡迪夫大学数据正义实验室）；University of Granada（格拉纳达大学）
公平的机器学习工作一直专注于开发公平的算法，以解决对某些群体的歧视问题。然而，许多这些公平意识的方法旨在获得一个独特的解决方案的问题，这导致了一个贫穷的理解偏差缓解干预措施的统计限制。我们提出了第一种方法，允许在多目标框架内探索这些限制，该框架旨在优化任何准确性和公平性的衡量标准，并提供最佳可行解决方案的帕累托前沿。在这项工作中，我们把我们的研究重点放在决策树分类器，因为它们被广泛接受的机器学习，易于解释，可以处理非数值信息自然。实验结果表明，该方法能够以较小的分类错误代价优化决策树模型，具有较好的公平性。我们相信，我们的贡献将帮助社会技术系统的利益相关者评估他们能走多远是公平和准确的，从而在使用机器学习的情况下支持增强决策。
2020-06-22 cs.LG stat.ML
Assessing Algorithmic Fairness with Unobserved Protected Class Using Data Combination
Cornell University（康奈尔大学）
算法决策对人们生活的影响越来越大，迫使我们仔细审查其公平性，特别是表面上色盲算法对不同群体的不同影响。例子包括信贷决策、招聘、广告、刑事司法、个性化医疗和有针对性的政策制定，在某些情况下，存在公平的立法或监管框架，并定义了特定的保护类别。在本文中，我们研究了在实践中评估不同影响的一个基本挑战：受保护的类成员资格往往没有在数据中观察到。这在贷款和医疗保健领域尤其严重。我们考虑使用一个辅助数据集，如美国人口普查，构建模型，预测保护类代理变量，如姓氏和地理位置。我们表明，即使有这样的数据，各种常见的差距措施一般是无法识别的，流行的代理为基础的方法记录的偏见提供了一个新的视角。我们提供了与数据（以及可能的任何假设）一致的所有可能的真实差异的最紧密可能集合的精确表征。我们还提供了基于优化的算法，用于计算和可视化这些集和统计工具，以评估采样的不确定性。这些措施共同促成了对差距的可靠和有力的评估-这是一个重要工具，因为差距评估可产生深远的政策影响。我们在两个案例研究中用真实数据证明了这一点：抵押贷款和个性化药物给药。
2020-06-16 cs.LG math.OC stat.ML
Assessing gender fairness in EEG-based machine learning detection of Parkinson's disease: A multi-center study
University of Stavanger（斯塔万格大学）；Stavanger University Hospital（斯塔万格大学医院）；Universidad de Antioquia（安蒂奥基亚大学）
随着基于机器学习（ML）和静息态脑电图（rs-EEG）的帕金森病（PD）检测自动工具的数量不断增加，通过公平性和偏倚分析评估可能加剧的健康差异变得更加相关。受保护的属性，如性别，在PD诊断开发中发挥重要作用。然而，在ML模型的开发或PD检测的性能评估中很少考虑来自不同性别的亚组人群的分析。在这项工作中，我们进行了一个系统的分析的检测能力的性别子组在多中心设置的先前开发的ML算法的基础上的功率谱密度（PSD）特征的rs-EEG。我们发现男性和女性在测试时的PD检测能力存在显著差异（准确度为80.5% vs. 63.7%），PD和非PD男性的一组顶叶和额叶EEG通道和频率子带的活动显著更高，这可能解释了性别亚组的PD检测能力差异。
2023-03-11 cs.LG eess.SP
Assessing Dialect Fairness and Robustness of Large Language Models in Reasoning Tasks
University of Oxford（牛津大学）；Microsoft Research（微软研究院）；The Alan Turing Institute（艾伦·图灵研究所）；Allen Institute for AI（人工智能研究所）；University of Washington（华盛顿大学）；Microsoft Corporation（微软公司）；University of York（约克大学）
本文构建含1200余对标准化英语与AAVE查询的ReDial基准，系统评估主流LLM在多类推理任务中的方言表现，揭示其对AAVE的显著脆弱性与不公平。
2025-06-09 cs.CL cs.LG
In the Name of Fairness: Assessing the Bias in Clinical Record De-identification
Massachusetts Institute of Technology（麻省理工学院）
本研究通过大规模实证分析评估临床记录去标识化系统在姓名上的偏差，发现多数方法在不同人口维度上存在显著性能差距，并提出通过临床语境和多样化姓名微调来缓解偏差。
2024-01-03 cs.CL cs.CR cs.CY
Understanding challenges to the interpretation of disaggregated evaluations of algorithmic fairness
Google Research, Mountain View, CA, USA（谷歌研究, 山景城, 加州, 美国）；Google DeepMind, Mountain View, CA, USA（谷歌深Mind, 山景城, 加州, 美国）；New York University, New York, NY, USA（纽约大学, 纽约, 纽约, 美国）；Massachusetts Institute of Technology, Cambridge, MA, USA（麻省理工学院, 柏林, 马萨诸塞, 美国）；The Hopsital for Sick Children, Toronto, ON, Canada（儿童医院, 温哥华, 加拿大）；Stanford University, Stanford, CA, USA（斯坦福大学, 斯坦福, 加州, 美国）
本研究揭示分类评估在算法公平性中的局限性，提出结合因果假设与分析方法以提升公平性评估的可靠性。
2025-10-23 cs.CY cs.LG stat.ML
Using Self-supervised Learning Can Improve Model Fairness
Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）；University of Cambridge（剑桥大学）；Nokia Bell Labs（诺基亚贝尔实验室）
本研究提出一个包含五个阶段的SSL公平性评估框架，并在三个真实数据集上验证了SSL能在保持性能的同时显著提升模型公平性（最高提升30%），揭示了公平性差异源于不同人群间的表示差异。
2024-06-04 cs.LG
Are fairness metric scores enough to assess discrimination biases in machine learning?
IRIT（图卢兹计算机科学研究所）；Université Paul-Sabatier（保罗·萨巴蒂埃大学）；IMT（图卢兹国立应用科学学院）
本文通过在 Bios 数据集上以多种样本规模训练 200 多个职业预测模型，证明常用性别偏见指标在小样本下可能分歧且不可靠，强调方差计算的重要性。
2023-06-08 cs.CL cs.CY cs.LG
