FAL-CUR: Fair Active Learning using Uncertainty and Representativeness on Fair Clustering
Eindhoven University of Technology(埃因霍温理工大学);Leiden University(莱顿大学)
针对现有主动学习方法提升公平性时易降低准确率的问题,提出结合公平聚类与基于不确定性、代表性的采集函数的FAL-CUR策略,在四个真实数据集上实现公平性15%-20%提升且准确率稳定。
2023-12-19 cs.LG
Fair Robust Active Learning by Joint Inconsistency
National Taiwan University(国立台湾大学);Mobile Drive Technology(移动驱动科技公司)
公平性和鲁棒性在可信的机器学习中起着至关重要的作用。在各种注释昂贵的视觉应用中观察安全关键的需求,我们引入了一种新的学习框架,公平鲁棒主动学习(FRAL),将传统的主动学习推广到公平和对抗性的鲁棒场景。这个框架使我们能够实现标准和强大的极大极小公平有限收购标签。在FRAL中,我们观察到现有的公平感知数据选择策略在严重的数据不平衡下无效,或者由于对抗训练的巨大计算而效率低下。为了解决这两个问题,我们开发了一种新的联合不一致性(JIN)方法,利用良性和敌对输入之间以及标准和鲁棒模型之间的预测不一致性。这两个不一致性可用于识别潜在的公平性增益和数据不平衡缓解。因此,通过使用基于不一致性的排名指标执行标签获取,我们可以缓解类不平衡问题,并以有限的计算增强极大极小公平性。在不同数据集和敏感组上的大量实验表明,与现有的主动数据选择基线相比,我们的方法在白盒PGD攻击下获得了标准和鲁棒公平性的最佳结果。
2022-11-17 cs.CV cs.LG
Audit Me If You Can: Query-Efficient Active Fairness Auditing of Black-Box LLMs
Weizenbaum Institut Berlin(魏泽恩堡研究所柏林);Technische Universität Berlin(柏林技术大学);FIZ Karlsruhe(卡尔斯鲁厄FIZ);KU Leuven(鲁汶大学);Aleph Alpha(Aleph Alpha公司)
BAFA通过主动查询减少资源消耗,实现高效黑盒LLM公平性审计
2026-09-01 cs.CL cs.CY cs.LG
Fairness via In-Processing in the Over-parameterized Regime: A Cautionary Tale
New York University(纽约大学);JP Morgan(摩根大通);Parity
DNN的成功是由过度参数化网络的反直觉能力推动的,即使它们完全符合训练数据。在实践中,测试误差通常随着过度参数化的增加而继续减小,称为双下降。这允许从业者实例化大型模型,而不必担心过度拟合。然而,尽管有其好处,以前的工作表明,过度参数化可能会加剧对少数群体的偏见。已经提出了几种公平性约束的DNN训练方法来解决这个问题。在这里,我们批判性地研究了MinDiff,这是在TensorFlow的Responsible AI Toolkit中实现的一个公平约束的训练过程,旨在实现机会平等。我们发现,虽然MinDiff提高了欠参数化模型的公平性,但在过参数化的情况下,它可能是无效的。这是因为具有零训练损失的过拟合模型在训练数据上是平凡的分组公平,从而创建“公平的错觉”,从而关闭MinDiff优化(这将适用于任何关心错误或准确性的基于质量的度量。它不适用于人口均等)。在指定的公平性约束下,参数化不足的MinDiff模型甚至可以比其过度参数化的对应模型具有更低的误差(尽管基线过度参数化模型具有更低的误差)。我们进一步表明,MinDiff优化是非常敏感的批量大小的选择下参数化制度。因此,使用MinDiff的公平模型训练需要耗时的超参数搜索。最后,我们建议使用以前提出的正则化技术,即L2,早期停止和洪水与MinDiff一起训练公平的过参数化模型。
2022-06-29 cs.CY cs.LG
Active Fairness in Algorithmic Decision Making
MIT(麻省理工学院)
社会越来越依赖于机器学习模型来进行自动化决策。然而,自动化带来的效率提升伴随着对算法歧视的担忧,这种歧视可能会使不平等现象系统化。最近的工作提出了最佳的后处理方法,随机分类决策的一小部分个人,以实现公平的措施有关的奇偶性错误和校准。然而,这些方法引起了人们的关注,由于信息效率低下,组内的不公平性,和帕累托次优,它们所带来的。目前的工作提出了一种替代的主动框架,公平的分类,其中,在部署中,决策者自适应地获取信息,根据不同的群体或个人的需要,对平衡的差异分类性能。我们提出了两种这样的方法,其中信息收集是适应组和个人层面的需求分别。我们在现实世界的数据集上展示了这些可以实现的:1)校准和单错误奇偶校验(例如,机会均等);以及2)假阳性率和假阴性率的均等(即,等赔率)。此外,我们表明,通过利用其额外的自由度,主动方法可以大大优于先前认为最佳的基于随机化的分类器,同时避免组内不公平等限制。
2018-11-07 cs.AI cs.CY cs.LG
Efficient Active Auditing of Multi-Group Fairness with Bias Probes
Équipe Scool, Univ. Lille, Inria, CNRS, Centrale Lille, UMR 9189- CRIStAL(里尔大学、法国国家信息与自动化研究所、法国国家科学研究中心、里尔中央理工学院、CRIStAL实验室)
本文提出偏差探针框架及主动审计器ALeBi,在不重建模型的情况下高效估计多群体公平性指标,并揭示模型机密性与可靠审计间的权衡。
2026-10-01 cs.AI cs.CY cs.LG
Active Learning for Fair and Stable Online Allocations
Purdue University(普渡大学)
针对动态公平资源分配问题,提出基于成对上下置信界自适应选反馈的主动学习算法,在仅获取子集智能体反馈的限制下,实现多指标下次线性遗憾界的高效决策。
2024-06-20 cs.LG stat.OT
Falcon: Fair Active Learning using Multi-armed Bandits
KAIST(韩国科学技术院);Georgia Institute of Technology(佐治亚理工学院)
本文提出可扩展的公平主动学习框架 Falcon,通过试错样本选择与对抗式多臂老虎机自动权衡信息量和推迟率,在公平性、准确率及效率上显著超越现有方法。
2024-01-24 cs.LG
Uncovering Bias Paths with LLM-guided Causal Discovery: An Active Learning and Dynamic Scoring Approach
本文提出一种结合LLM引导的主动学习和动态评分方法,用于在存在噪声和混杂因素时发现公平性相关的因果路径。
2026-01-07 cs.AI cs.LG stat.ML
Fair Reinforcement Learning Algorithm for PV Active Control in LV Distribution Networks
LTCI, Télécom Paris, Institut Polytechnique de Paris(LTCI,巴黎电信学院,巴黎综合理工学院)
针对低压配电网光伏普及引发的电压问题及现有光伏智能逆变器有功削减不公平的痛点,提出一种兼顾用户间有功功率削减公平性的强化学习电压控制方法,经实验验证可公平高效地实现电压控制。
2024-09-09 cs.AI cs.LG cs.SY
More Data Can Lead Us Astray: Active Data Acquisition in the Presence of Label Bias
University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文研究存在标签偏差时主动数据收集的公平性问题,发现忽视标签偏差时更多数据反而会加剧偏差,强调必须明确区分公平算法所针对的偏差类型并重视标签偏差风险。
2022-07-15 cs.CY cs.LG
Fair Active Ranking from Pairwise Preferences
Indian Institute of Science(印度科学学院);Google Research(谷歌研究院)
本文提出一种公平主动排序方法,通过成对比较和公平目标函数(最小化组误差的范数)实现PACF排序,并分析样本复杂度与下界,实验验证有效性。
2024-02-05 cs.CY cs.LG
Fairness Without Harm: An Influence-Guided Active Sampling Approach
UC Santa Cruz(加州大学圣克鲁兹分校);Meta GenAI(元通用人工智能部门)
提出一种不依赖训练组标注、仅需验证集组标注的影响力引导主动采样算法,在不损害准确性的前提下改善群体公平性,理论分析与实验验证其有效性。
2024-11-08 cs.AI cs.LG
Fairness-Driven LLM-based Causal Discovery with Active Learning and Dynamic Scoring
Rice University(莱斯大学)
针对因果发现算法可扩展性不足的问题,提出结合广度优先搜索、主动学习和动态评分的LLM因果发现框架,提升了公平性驱动的因果发现的效率与准确性。
2025-03-21 cs.AI cs.LG stat.ML
Fairness Under Demographic Scarce Regime
ÉTS Montréal(蒙特利尔高等技术学院);Mila(米拉研究所);University of Calgary(卡尔加里大学)
针对人口统计信息稀缺场景,提出一种引入不确定性感知的属性分类器框架,仅对低不确定性样本施加公平性约束,在五个数据集上显著改善公平性与准确性权衡,甚至优于使用真实敏感属性的模型。
2024-09-17 cs.AI cs.LG
Fair inference on error-prone outcomes
Utrecht University(乌得勒支大学)
监督学习中的公平推理是一个重要而活跃的研究领域,在预测地面真实目标时,产生了一系列有用的方法来评估和解释公平性标准。然而,如在最近的工作中所示,当目标标签容易出错时,潜在的预测不公平性可能由测量误差引起。在本文中,我们表明,当使用一个容易出错的代理目标,现有的方法来评估和校准公平性标准不扩展到真正的目标变量的兴趣。为了解决这个问题,我们提出了一个框架,从现有的两个文献的组合:公平ML方法,如那些在反事实的公平性文献,一方面,另一方面,在统计文献中发现的测量模型。我们讨论这些方法和它们的连接导致我们的框架。在一个医疗决策问题中,我们发现使用潜变量模型来解释测量误差消除了先前检测到的不公平。
2020-03-17 cs.CY cs.LG stat.ML
Fairness May Backfire: When Leveling-Down Occurs in Fair Machine Learning
Department of Information Systems, Arizona State University(信息系统系,亚利桑那州立大学);Department of Information Systems and Intelligent Business, Xi’an Jiaotong University(信息系统与智能商业系,西安交通大学)
研究揭示了在不同决策模式下,公平机器学习可能对不同群体产生正反两面影响,指出公平性约束可能改善弱势群体但损害优势群体,或导致系统性平抑。
2026-03-06 cs.LG stat.ML
Delayed Impact of Fair Machine Learning
University of California, Berkeley(加州大学伯克利分校)
机器学习中的公平性主要是在静态分类环境中研究的,而不关心决策如何随着时间的推移改变底层种群。传统观点认为,公平标准促进了它们旨在保护的那些群体的长期福祉。我们研究静态公平标准如何与幸福感的时间指标相互作用,如长期改善,停滞和利益变量的下降。我们证明,即使在一个一步反馈模型中,共同的公平标准一般不促进改善随着时间的推移,实际上可能会造成伤害的情况下,一个不受约束的目标不会。我们完全表征的延迟影响的三个标准的标准,对比这些表现出质的不同的行为的制度。此外,我们发现,一种自然形式的测量误差扩大了制度,其中公平性标准表现良好。我们的研究结果强调了测量和时间建模在公平性标准评估中的重要性,提出了一系列新的挑战和权衡。
2018-04-07 cs.LG stat.ML
The trade-off between data minimization and fairness in collaborative filtering
Brown University(布朗大学);Tufts University(塔夫茨大学);University of Bergen(卑尔根大学);Max-Planck Institute for Security and Privacy(马克斯·普朗克安全与隐私研究所)
本文研究了推荐系统中GDPR要求的数据最小化与公平性原则之间的矛盾,通过主动学习策略实现数据最小化,发现不同策略对准确率影响各异且普遍损害公平性,为开发合规推荐系统提供了重要见解。
2024-09-21 cs.CY cs.IR cs.LG
Fair CoVariance Neural Networks
Delft University of Technology(代尔夫特理工大学);Rice University(莱斯大学)
针对传统协方差数据处理存在偏差且低样本下公平PCA不稳定的问题,提出基于协方差矩阵图卷积的公平协方差神经网络,通过双路径缓解偏差,理论与实验证明其更稳定公平且具灵活性。
2025-01-14 cs.LG stat.ML
OxEnsemble: Fair Ensembles for Low-Data Classification
Oxford Internet Institute, University of Oxford(牛津大学牛津互联网研究所);The Chinese University of Hong Kong(香港中文大学)
针对数据稀缺且各群体数据不平衡的公平分类问题,OxEnsemble通过高效训练集成模型并强制公平性,在医学影像等场景中实现更一致的性能和更好的公平性-准确性权衡。
2026-04-09 cs.CV cs.CY cs.LG
Enhancing the Accuracy and Fairness of Human Decision Making
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所)
社会往往依赖人类专家做出影响其成员的各种决定,从法官做出的监禁或释放决定,警察做出的拦截和搜身决定,到学者做出的接受或拒绝决定。在这种情况下,每个决定都是由一位专家做出的,这位专家通常是从一群专家中随机挑选出来的。然而,这些决定可能是不完美的,由于有限的经验,隐含的偏见,或错误的概率推理。我们能否通过优化专家和决策之间的分配来提高整个决策过程的准确性和公平性?在本文中,我们解决上述问题的顺序决策的角度来看,并表明,对于不同的公平性概念,从文献中,它减少到一个序列的(约束)加权二分匹配,可以有效地解决使用算法与近似保证。此外,这些算法还受益于后验抽样,以积极权衡剥削-选择专家分配,导致准确和公平的决策-和探索-选择专家分配,以了解专家的偏好和偏见。我们证明了我们的算法对合成和真实世界数据的有效性,并表明它们可以显着提高专家池所做决策的准确性和公平性。
2018-05-25 cs.CY cs.LG stat.ML
PsiLogic: Chaos-Aware Active Cancellation for Adam with a Fair Cross-Domain Benchmark
研究针对自适应优化器在不同训练阶段更新规则相同的问题,提出PsiLogic优化器,通过双指数移动平均控制主动抵消项,经FairBench基准测试,在多个领域表现优异,还发布开源实现等支持验证。
2026-07-21 cs.LG
The Price of Local Fairness in Multistage Selection
Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔理工学院);LIG(格勒诺布尔信息实验室);Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所)
算法决策的兴起导致了对如何定义和保证公平性的积极研究,主要集中在一次性决策。然而,在一些重要的应用程序中,如招聘,决策是在多个阶段进行的,每个阶段都有额外的信息。在这种情况下,人们对公平问题仍然知之甚少。在本文中,我们研究公平性在$k$阶段选择问题,在每个阶段观察到额外的功能。我们首先介绍两个公平性的概念,本地(每阶段)和全球(最终阶段)的公平性,扩展了经典的公平性概念的$k$阶段设置。我们提出了一个简单的模型的基础上的概率公式,并表明,本地和全球公平的选择,最大限度地提高精度可以通过线性规划计算。然后,我们定义了本地公平的价格来衡量本地约束引起的精度损失,并从理论和实证上研究这个量。特别是,我们的实验表明,局部公平的价格一般较小的敏感属性时,观察到在第一阶段,但全球公平的选择更局部公平的敏感属性时,观察到在第二阶段-因此,在这两种情况下,它往往是可能有一个选择,有一个小的局部公平的价格,是接近本地公平。
2019-06-15 cs.LG stat.ML
Fairness-Aware Data Valuation for Supervised Learning
Feedzai(Feedzai公司);Instituto Superior Técnico, Universidade de Lisboa(里斯本大学高等技术学院);Instituto de Telecomunicações(电信研究所)
数据估值是一个ML领域,研究训练实例对给定预测任务的价值。虽然数据偏差是下游模型不公平的主要来源之一,但以前的数据评估工作并没有考虑训练实例如何影响ML模型的性能和公平性。因此,我们提出了公平感知数据评估(FADO),这是一个数据评估框架,可用于将公平性问题纳入一系列ML相关任务(例如,数据预处理、探索性数据分析、主动学习)。我们提出了一个基于熵的数据评估指标,适合于解决我们的双管齐下的目标,最大限度地提高性能和公平性,这是更有效的计算比现有的指标。然后,我们将展示如何FADO可以应用为基础的不公平缓解预处理技术。我们的方法取得了令人鼓舞的结果-与基线相比,公平性提高了40个百分点,性能损失不到1个百分点-并以数据为中心的方式促进公平性,其中对数据质量的更深入理解占据了中心地位。
2023-03-29 cs.CY cs.LG
Active Fourier Auditor for Estimating Distributional Properties of ML Models
Univ. Lille(里尔大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Centrale Lille(里尔中央理工学院);Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所)
本文提出主动傅里叶审计器(AFA)框架,通过查询样本点估计机器学习模型的鲁棒性和公平性等特性,无需重构目标模型,并证明了其高概率误差界限和样本复杂度下界,在多数据集上表现优于基线。
2024-10-10 cs.AI cs.CY cs.LG
A Unified Post-Processing Framework for Group Fairness in Classification
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
提出名为LinearPost的公平分类后处理算法,在统一框架下通过线性变换基础预测器实现多种群体公平性标准,保证在多校准条件下的公平性,并在高公平性要求下表现优异。
2024-12-23 cs.CY cs.LG
Stay Fair! Ensuring Group Fairness in Diffusion Models Across Guidance Scales
POSTECH;Amazon(亚马逊)
提出StayFair方法,通过分解总偏差为模型偏差和引导偏差,并扩展强人口平价到引导过程,设计公平引导算法,使扩散模型在不同引导尺度下保持群体公平性。
2026-10-27 cs.CV cs.LG
Evaluating Fairness of Machine Learning Models Under Uncertain and Incomplete Information
Google(谷歌);Rutgers University(罗格斯大学);Amazon(亚马逊);University of Washington(华盛顿大学)
公平分类器的训练和评价是一个具有挑战性的问题。这部分是由于大多数感兴趣的公平性度量依赖于数据点的敏感属性信息和标签信息。在许多情况下,不可能收集具有此类信息的大型数据集。一种常用的替代方法是在具有敏感属性信息的数据上单独训练属性分类器,然后稍后在ML流水线中使用它来评估给定分类器的偏差。虽然这种解耦有助于缓解人口稀少的问题,但它提出了几个自然的问题,例如:属性分类器应该如何训练?以及如何使用给定的属性分类器进行准确的偏差估计?在这项工作中,我们从理论和经验的角度来研究这个问题。我们首先通过实验证明,属性分类器的测试精度并不总是与其在下游模型的偏差估计中的有效性相关。为了进一步研究这一现象,我们分析了一个理想化的理论模型,并描述了最佳分类器的结构。我们的分析有令人惊讶的和反直觉的影响,在某些制度中,人们可能希望尽可能不均匀地分布在不同的子组之间的属性分类器的错误。基于我们的分析,我们开发了训练和使用属性分类器在数据稀缺制度的偏见估计的算法。我们实证证明了我们的方法对真实和模拟数据的有效性。
2021-02-16 cs.LG stat.ML
Do Fair Models Reason Fairly? Counterfactual Explanation Consistency for Procedural Fairness in Credit Decisions
本文提出CEC框架,通过对个体与反事实对照体的特征归因对齐,检测并缓解隐藏的程序性偏见,提升信用决策的公平性。
2026-05-12 cs.AI cs.CE cs.CY
Avoiding Structural Failure Modes in Tabular Fair SSL: Online Primal-Dual Allocation under Confidence Gating
College of Computer Science and Technology, Jilin University, China(吉林大学计算机科学与技术学院);Key Laboratory of Symbolic Computation and Knowledge Engineering of the Ministry of Education, Jilin University, China(教育部符号计算与知识工程重点实验室)
针对表格公平半监督学习中的结构冲突,提出在线原始-对偶分配(OPDA)方法,通过动态调度公平性和熵稳定性惩罚,避免掩码崩溃和平凡饱和两种失效模式,在多个基准上实现非退化运行点。
2026-06-01 cs.AI cs.LG
Mixed Dynamics In Linear Networks: Unifying the Lazy and Active Regimes
Courant Institute(柯朗研究所);New York University(纽约大学)
该研究提出线性网络训练动力学的统一公式,涵盖惰性、平衡及介于两者的混合机制,证明混合机制兼具随机初始化收敛性与低秩偏置,并给出MSE任务下基于初始化方差和宽度的训练行为相图。
2024-10-29 cs.AI cs.LG stat.ML
Is There a Trade-Off Between Fairness and Accuracy? A Perspective Using Mismatched Hypothesis Testing
IBM Research(IBM研究院);Carnegie Mellon University(卡内基梅隆大学)
在现有的机器学习公平性文献中,准确性和公平性之间的权衡几乎被视为给定。然而,准确性不应该随着公平性的增加而下降。新颖的这项工作,我们检查公平的分类通过镜头不匹配的假设检验:试图找到一个分类器,区分两个理想的分布时,给出两个不匹配的分布是有偏见的。使用信息论中的工具切尔诺夫信息,我们从理论上证明,与流行的观点相反,总是存在理想分布,以便同时实现最佳公平性和准确性(相对于理想分布):没有权衡。此外,相同的分类器产生相对于理想分布缺乏权衡,而当相对于给定(可能有偏差)数据集测量准确度时产生权衡。为了补充我们的主要结果,我们制定了一个优化,以找到理想的分布,并推导出基本的限制,以解释为什么权衡存在于给定的偏置数据集。我们还推导出条件下,主动数据收集可以减轻在现实世界中的公平性和准确性的权衡。我们的研究结果使我们认为,这是有问题的,以反映偏见的数据来衡量准确性,相反,我们应该考虑的准确性与理想的,无偏的数据。
2020-12-10 cs.CY cs.IT cs.LG
ActKnow: Active External Knowledge Infusion Learning for Question Answering in Low Data Regime
Indian Institute of Science(印度科学理工学院)
深度学习模型在各种自然语言处理任务中设定了基准结果。然而,这些模型需要大量的训练数据,这在许多实际问题中是不可行的。虽然各种技术,如领域自适应,fewshot学习技术解决这个问题,我们引入了一种新的技术,积极注入外部知识学习,以解决低数据制度的问题。我们提出了一种称为ActKnow的技术,该技术积极地将基于知识图谱(KG)的知识“按需”注入到问答(QA)的学习中。通过注入来自Concept-Net的世界知识,我们在低数据状态下显示了对纯基于文本的Transformer模型(如RoBERTA)的ARC测试集基准的显着改进。例如,通过仅使用20%的训练样本,我们证明了ARC挑战和OpenBookQA的准确性分别提高了4%。
2021-12-17 cs.LG
Correct-By-Construction: Certified Individual Fairness through Neural Network Training
Singapore Management University(新加坡国立管理学院)
本文提出一个构造即正确的个体公平性训练框架,通过可证明公平的初始化和基于随机化响应机制的公平保持训练算法,在无需训练期神经网络验证的情况下,形式化保证并高效地训练出既公平又准确的模型。
2025-08-21 cs.LG
Towards Algorithmic Fairness in Space-Time: Filling in Black Holes
AT&T Chief Data Office(AT&T首席数据办公室);Trustworthy ML Initiative(可信机器学习倡议)
新技术和地理空间数据的可用性引起了人们对社会中存在的时空偏差的关注。举例来说:COVID-19疫情凸显了宽带服务可用性的差异及其在数字鸿沟中的作用;美国的环境正义运动提高了人们对历史性红线做法对少数群体健康影响的认识;研究发现,收集和共享开源地理空间数据的质量和覆盖范围各不相同。尽管有大量关于机器学习(ML)公平性的文献,但很少有算法策略被提出来减轻这种偏见。在本文中,我们通过科学文献和媒体中呈现的用例镜头,强调了量化和解决时空偏差的独特挑战。我们设想了一个需要开发或调整的ML策略路线图,以量化和克服这些挑战-包括迁移学习,主动学习和强化学习技术。此外,我们还讨论了ML在为决策者提供空间公平性相关问题的指导方面的潜在作用。
2022-11-08 cs.CY cs.LG stat.AP
FAIRPLAI: A Human-in-the-Loop Approach to Fair and Private Machine Learning
Dept. of Computer Science, The University of Texas at El Paso(得克萨斯大学埃尔帕索分校计算机科学系);Dept. of Mathematics, Mountain View High School(山景高中数学系);Dept. of Mathematics, El Paso Independent School District(埃尔帕索独立学区数学系)
针对机器学习系统在公平、隐私与准确性间的权衡难题,提出FAIRPLAI人机协同框架,通过透明边界、利益相关者输入及隐私审计循环,实现三者平衡,提升社会影响应用中的模型责任与可信度。
2025-11-11 cs.AI cs.CR cs.CY
The Statistical Fairness-Accuracy Frontier
Rice University(莱斯大学);University of California, Berkeley(加州大学伯克利分校);Inria Paris(法国国家信息与自动化研究所巴黎分院)
本文研究了在有限样本情况下,如何通过最优样本分配策略和估计器设计,近似公平性-准确率前沿并量化其可靠性。
2026-10-19 cs.LG econ.TH math.OC
Coping with Mistreatment in Fair Algorithms
University of Delaware(特拉华大学);Computer and Information Sciences(计算机与信息科学学院)
机器学习积极影响着我们的日常生活,几乎所有的努力和领域,如医疗保健,金融和能源。随着我们对机器学习的依赖性增加,这些算法将不可避免地用于做出决策,这些决策将对社会产生直接影响,从个人选择到全球政策。因此,确保(非)故意偏见不会影响机器学习算法至关重要,特别是当它们需要做出可能产生意外后果的决策时。算法公平性技术已经在机器学习社区中找到了牵引力,并且已经提出了许多方法和度量来确保和评估算法和数据汇集中的公平性。在本文中,我们研究了算法公平性在监督学习设置和检查的效果,优化分类器的机会均等度量。我们证明了这样的分类器在敏感群体中具有增加的假阳性率,并提出了一种概念上简单的方法来减轻这种偏见。我们严格分析了所提出的方法,并在几个真实世界的数据集上对其进行了评估,证明了其有效性。
2021-02-22 cs.AI cs.LG
The Unfairness of Fair Machine Learning: Levelling down and strict egalitarianism by default
Oxford Internet Institute, University of Oxford(牛津大学牛津互联网研究所);Amazon Web Services(亚马逊云服务)
近年来,机器学习(ML)中的公平性已经成为研究和开发的一个高度活跃的领域。大多数人对公平的定义很简单,公平意味着减少人口群体之间在业绩或成果方面的差距,同时尽可能保持原始系统的准确性。这种通过公平措施实现平等的过度简单化令人不安。许多当前的公平措施都遭受公平和性能退化,或“拉平”,其中公平是通过使每个群体的情况更糟,或通过将表现较好的群体降低到最差水平来实现的。当公平只能通过伤害耻辱、失去团结、不平等的关注和错过实质性平等的机会,使每个人在物质或关系方面变得更糟来实现时,在将模糊的“公平”概念转化为实践方面似乎出了问题。本文探讨了在fairML中降低水平的原因和普遍性,并基于平等和分配正义的哲学和法律理论以及平等法法理学探讨了可能的理由和批评。我们发现,fairML目前没有进行必要的测量、报告或分析,以证明在实践中降低水平的合理性。我们提出了在fairML中实现实质性平等的第一步:通过执行最低可接受伤害阈值或“最低速率约束”作为公平约束,通过设计来“升级”系统。我们同样提出了一个替代的基于伤害的框架,以对抗目前在该领域占主导地位的过于简化的平等主义框架,并推动未来的讨论更多地走向实质性的平等机会,远离严格的平等主义默认。N.B.摘要缩短,完整摘要见论文。
2023-03-12 cs.AI cs.LG
Ensuring Fair LLM Serving Amid Diverse Applications
Virginia Tech(弗吉尼亚理工大学);Microsoft(微软公司);University of Virginia(弗吉尼亚大学)
本文针对多租户LLM平台中请求滥用导致的不公平问题,基于MS CoPilot真实数据提出FairServe系统,通过应用特征感知限流和加权服务计数器调度确保公平访问,实验证明其优于现有方法。
2024-11-24 cs.AI cs.DC cs.LG
Optimal Fair Aggregation of Crowdsourced Noisy Labels using Demographic Parity Constraints
University of California, Berkeley(加州大学伯克利分校);Université de Paris(巴黎大学);CNRS(国家科学研究中心)
针对众包标签聚合中的公平性问题,提出在ε-公平框架下分析多数投票和最优贝叶斯聚合的公平性差距,并推广多类公平后处理算法以强制执行人口统计平价约束。
2026-06-07 cs.LG
Fair Ranking as Fair Division: Impact-Based Individual Fairness in Ranking
Cornell University(康奈尔大学)
排名已经成为双边在线市场的主要界面。许多人已经注意到,排名不仅影响用户的满意度(例如,客户、听众、雇主、旅行者),但是排名中的位置将曝光(从而经济机会)分配给排名项目(例如,文章、产品、歌曲、求职者、餐馆、酒店)。这就提出了公平性的问题,大多数现有的作品都明确地将项目暴露与项目相关性联系起来,以解决公平性问题。然而,我们认为,任何特定的选择这样一个链接功能可能是难以辩护,我们表明,由此产生的排名仍然是不公平的。为了避免这些缺点,我们开发了一种新的公理化方法,它植根于公平划分的原则。这不仅避免了选择链接函数的需要,而且更有意义地量化了暴露之外对项目的影响。我们的无嫉妒性公理和优于统一排名的公理假设,对于公平的排名政策,每个项目都应该优先于其他任何项目的排名分配,并且任何项目都不应该受到排名的不利影响。为了根据这些公理计算公平的排名策略,我们提出了一个新的排名目标相关的纳什社会福利。我们表明,该解决方案有保证,它的嫉妒免费,其优势,统一排名的每一个项目,其帕累托最优。相比之下,我们发现,传统的基于安全的公平可以产生大量的嫉妒,并有一个高度不同的项目的影响。除了这些理论结果,我们实证说明我们的框架如何控制基于影响的个人项目公平性和用户效用之间的权衡。
2022-08-30 cs.AI cs.IR cs.LG
Systematic Evaluation of Predictive Fairness
The University of Melbourne(墨尔本大学);Amazon Alexa AI(亚马逊Alexa人工智能);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
在有偏差的数据集上训练时减轻偏差是一个重要的开放问题。已经提出了几种技术,然而,考虑到非常狭窄的数据条件,典型的评估制度非常有限。例如,对目标阶层不平衡和陈规定型观念的影响研究不足。为了解决这一差距,我们研究了多个任务中各种去偏方法的性能,包括二进制分类(Twitter情绪),多类分类(职业预测)和回归(效价预测)。通过大量的实验,我们发现,数据条件对相对模型性能有很大的影响,并且当仅在标准数据集上进行评估时,无法得出关于方法有效性的一般结论,这是公平性研究中的当前实践。
2022-10-17 cs.CL cs.LG
Active Learning Through a Covering Lens
The Hebrew University of Jerusalem(耶路撒冷希伯来大学)
本文提出ProbCover,一种基于覆盖视角的主动学习算法,通过最大化概率覆盖提升低预算场景下的标注效率,并在多个图像识别基准上实现最先进性能,尤其在半监督设置中显著减少标签需求。
2022-12-29 cs.LG
Is Fairness Truly Fair? Towards Reliable Lipschitz Fairness in Multi-Task Learning via Fixed-\texorpdfstring{$δ$}{delta} Alignment
Beijing University of Chemical Technology(北京化工大学)
针对多任务学习中Lipschitz个体公平性评估受表示尺度干扰的问题,提出固定δ审计与受控正则化框架ReLiF,实现语义一致的公平性评估与权衡。
2026-06-09 cs.AI cs.LG
Active Data Sampling and Generation for Bias Remediation
University of Naples Parthenope(那不勒斯 Parthenope 大学)
针对非概率采样导致的分类偏差,提出混合主动采样与数据生成策略samplation,在微调阶段生成反向偏置样本,以视觉语义角色标注模型为例,从90/10性别不平衡完全修复偏差且对准确率影响小。
2025-03-26 cs.LG
Active-learning mapping of the Vicsek model phase diagram
Thomas Jefferson High School for Science and Technology(泰勒斯杰斐逊科学与技术高中);Department of Physics, University of Virginia, Charlottesville, Virginia 22904, USA(弗吉尼亚大学物理系,夏洛茨维尔,弗吉尼亚州,22904,美国)
本文利用机器学习对Vicsek群体运动模型在三维参数空间(η,ρ,v_0)中的相结构进行分类和插值,通过聚类分析构建相图并提升分类精度。
2026-06-29 cond-mat.soft cond-mat.stat-mech cs.LG
Uncertainty-Based Non-Parametric Active Peak Detection
University of Southern California(南加州大学)
主动,非参数峰值检测被认为是。作为一个用例,主动源定位检查和基于不确定性的采样方案算法,有效地定位从几个能量测量的峰值设计。结果表明,在非常温和的条件下,$m$主动选择能量测量的源定位误差为$O(\log^2 m/m)$。数值结果表明,在低样本制度,所提出的方法享有优越的性能,对几种类型的数据和最先进的被动源定位方法,并在低样本制度,可以优于贪婪的方法。
2022-05-05 cs.IT cs.LG eess.SP