Fairness-aware Configuration of Machine Learning Libraries
University of Texas at El Paso(得克萨斯大学埃尔帕索分校);Pennsylvania State University(宾夕法尼亚州立大学);University of Colorado Boulder(科罗拉多大学博尔德分校)
本文研究了机器学习(ML)算法在加重或减轻公平性错误时的参数空间。数据驱动的软件越来越多地应用于社会关键应用程序中,在这些应用程序中,确保公平至关重要。现有的方法集中于通过修改输入数据集或修改学习算法来解决公平性缺陷。另一方面,超参数的选择提供了对ML算法的更精细控制,可以实现一种侵入性更小的方法来影响公平性。超参数可以放大或抑制输入数据集中存在的歧视吗?我们如何帮助程序员检测、理解和利用超参数的作用来提高公平性?我们设计了三种基于搜索的软件测试算法来揭示超参数空间的精确公平边界。我们补充这些算法的统计调试,以解释这些参数在提高公平性的作用。我们在工具Parfait-ML(ML库的Parfait-FAIrness测试)中实现了所提出的方法,并在六个社会关键应用程序中使用的五个成熟ML算法中显示了其有效性和实用性。在这些应用中,我们的方法成功地识别了显着提高(相对于最先进的技术)公平性而不牺牲精度的超参数。令人惊讶的是,对于一些算法(例如,随机森林),我们的方法表明超参数的某些配置(例如,限制属性的搜索空间)可以放大应用程序之间的偏差。经过进一步的研究,我们发现了这些现象的直观解释,结果证实了文献中类似的观察。
2022-02-13 cs.CY cs.LG cs.SE
Software Engineering for Fairness: A Case Study with Hyperparameter Optimization
North Carolina State University(北卡罗来纳州立大学)
我们主张,这是软件工程师的道德义务,努力减少软件歧视。本文讨论了如何做到这一点。这是一个重要的话题,因为机器学习软件越来越多地用于做出影响人们生活的决策。潜在地,该软件的应用将导致更公平的决策,因为(与人类不同)机器学习软件没有偏见。然而,最近的结果表明,许多数据采掘软件包中的软件表现出“群体歧视”;即,它们的决策受到“受保护属性”的不适当影响(例如,种族、性别、年龄等)。在验证机器学习模型的公平性(通过识别这种软件歧视何时存在)方面,已经有了很多先前的工作。但在发现之后,会有缓解。有道德的软件工程师可以采取哪些措施来减少他们所生产的软件中的歧视?本文表明,在超参数优化过程中将\textit{fairness}作为目标可以(a)保留从数据挖掘机学习的模型的预测能力,同时(b)生成更公平的结果。据我们所知,这是超参数优化作为软件工程师生成更公平软件的工具的首次应用。
2019-10-30 cs.LG cs.SE
Fair and Green Hyperparameter Optimization via Multi-objective and Multiple Information Source Bayesian Optimization
University of Milano-Bicocca(米兰比可卡大学);OAKS srl(OAKS有限责任公司)
有一个共识是,只关注搜索最佳机器学习模型的准确性会放大数据中包含的偏差,导致不公平的预测和决策支持。最近,多目标超参数优化已经被提出来搜索机器学习模型,这些模型在准确性和公平性之间提供同样的帕累托有效的权衡。虽然这些方法被证明比公平感知的机器学习算法更通用-优化精度限制在某个公平阈值上-但在大型数据集的情况下,它们可能会大幅增加能耗。在本文中,我们提出了FangG-HPO,一个公平的和绿色的超参数优化(HPO)方法的基础上,多目标和多信息源贝叶斯优化。FanG-HPO使用大型数据集的子集(又名信息源)来获得准确性和公平性的廉价近似值,并使用多目标贝叶斯优化来有效地识别帕累托有效的机器学习模型。实验考虑了两个基准(公平性)数据集和两种机器学习算法(XGBoost和多层感知器),并通过BoTorch中的多目标单源优化算法对FanG-HPO进行了评估,BoTorch是最先进的贝叶斯优化平台。
2022-05-18 cs.LG math.OC stat.ML
Promoting Fairness in GNNs: A Characterization of Stability
Huazhong University of Science and Technology(华中科技大学);Dartmouth College(达特茅斯学院)
本文针对非欧几里得图数据偏差导致的 GNN 公平性问题,提出并分析面向输入偏差的 Lipschitz 界,结合实验与训练动力学证明其可约束输出扰动并改善准确性—公平性权衡。
2023-12-12 cs.AI cs.CY cs.LG
FairPrep: Promoting Data to a First-Class Citizen in Studies on Fairness-Enhancing Interventions
New York University(纽约大学)
将道德和法律合规纳入机器辅助决策的重要性得到了广泛认可。此外,最近的几项工作认为,如果我们不考虑模型训练和部署上游的生命周期阶段,就会错过提高数据质量和代表性、控制偏差以及允许人类监督和影响计算过程的关键机会。然而,迄今为止,为希望开发和部署负责任的机器学习方法的数据科学家提供系统级支持的工作很少。我们的目标是填补这一空白,目前FairPrep,公平性增强干预措施的设计和评估框架。FairPrep基于以开发人员为中心的设计,帮助数据科学家遵循软件工程和机器学习的最佳实践。作为我们的贡献的一部分,我们确定现有的实证研究中的不足之处,分析公平性增强的干预措施。然后,我们将展示如何使用FairPrep来衡量声音最佳实践的影响,例如超参数调整和功能缩放。特别是,我们的研究结果表明,在以前的研究中观察到的公平性增强干预措施的结果的高度可变性往往是缺乏超参数调整的伪像。此外,我们还表明,数据清理方法的选择可能会影响增强公平性干预措施的有效性。
2019-11-28 cs.CY cs.DB cs.LG
Fair Bayesian Optimization
Amazon Web Services(亚马逊云科技);Carnegie Mellon University(卡内基梅隆大学)
鉴于机器学习(ML)在我们生活中的重要性日益增加,已经提出了几种算法公平性技术来减轻ML模型结果中的偏差。然而,这些技术中的大多数都是专门针对单个ML模型家族和特定的公平性定义的,这限制了它们在实践中的适应性。我们引入了一个通用的约束贝叶斯优化(BO)框架,以优化任何ML模型的性能,同时实施一个或多个公平性约束。BO是一种与模型无关的优化方法,已成功应用于自动调整ML模型的超参数。我们将带有公平约束的BO应用于一系列流行的模型,包括随机森林,梯度提升和神经网络,表明我们可以通过仅对超参数采取行动来获得准确和公平的解决方案。我们还表明,经验表明,我们的方法是有竞争力的专门技术,执行特定于模型的公平性约束,并优于预处理方法,学习公平表示的输入数据。此外,我们的方法可以与这些专门的公平性技术协同使用,以调整它们的超参数。最后,我们研究了公平性与BO选择的超参数之间的关系。我们观察到正则化和无偏模型之间的相关性,解释了为什么作用于超参数会导致ML模型泛化良好且公平。
2021-06-18 cs.LG stat.ML
Fairer and More Accurate Tabular Models Through NAS
本研究首次将多目标神经架构搜索与超参数优化应用于表格数据,通过联合优化模型架构与训练超参数,在准确性和公平性约束下生成帕累托最优架构,超越了现有偏差缓解方法。
2023-10-18 cs.AI cs.CY cs.LG
Private and Fair Machine Learning: Revisiting the Disparate Impact of Differentially Private SGD
Know Center Research GmbH;Graz University of Technology(格拉茨技术大学);University of Graz(格拉茨大学)
本研究重新审视差分隐私SGD对不同性能指标和超参数设置下公平性的不同影响,发现直接优化超参数虽不能可靠缓解但可改善效用-公平性权衡,并指出超参数调整带来隐私泄露,DPSGD-Global-Adapt并非稳健方案。
2025-10-02 cs.LG
Towards Understanding Fairness and its Composition in Ensemble Machine Learning
Iowa State University(爱荷华州立大学);Carnegie Mellon University(卡内基梅隆大学)
本文系统研究了bagging、boosting、stacking和voting四类集成学习中的公平性组合机制,通过168个Kaggle集成模型基准揭示无需缓解技术即可设计更公平集成,并分析了数据特征与公平性组合的交互关系。
2023-04-25 cs.LG
Predicting Fairness of ML Software Configurations
University of Texas at El Paso(德克萨斯大学埃尔帕索分校);University of Colorado Boulder(科罗拉多大学博尔德分校)
本文研究机器学习超参数与公平性的关系,提出用树回归器预测超参数配置的公平性,发现其在分布偏移下优于深度神经网络和支持向量机,为高效微调训练算法和理解超参数与公平性关系提供了框架。
2024-07-01 cs.AI cs.CY cs.LG
FARF: A Fair and Adaptive Random Forests Classifier
University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校);University of Waikato(怀卡托大学);Télécom Paris, Institut Polytechnique de Paris(巴黎高等电信学院,巴黎综合理工学院);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);Carnegie Mellon University(卡内基梅隆大学);L3S Research Center(L3S研究中心);Leibniz University Hannover(莱布尼茨汉诺威大学)
随着人工智能(AI)在更多应用中的使用,需要考虑和减轻学习模型的偏差。大多数开发公平学习算法的工作都集中在离线设置上。然而,在许多现实世界的应用程序中,数据以在线方式出现,需要在运行中处理。此外,在实际应用中,需要考虑准确性和公平性之间的权衡,但目前的方法通常具有多个具有非平凡相互作用的超参数以实现公平性。在本文中,我们提出了一个灵活的集成算法,公平的决策,在更具有挑战性的背景下不断发展的在线设置。该算法被称为FARF(公平和自适应随机森林),基于使用在线组件分类器并根据当前分布更新它们,这也考虑了公平性和改变公平性-准确性平衡的单个超参数。在真实数据流上的实验证明了FARF的实用性。
2021-08-21 cs.AI cs.LG
FeDABoost: Fairness Aware Federated Learning with Adaptive Boosting
Department of Computer Science, Blekinge Institute of Technology(计算机科学系,布莱金厄学院)
针对非独立同分布场景下联邦学习的性能与公平性问题,提出融合动态提升与自适应梯度聚合的FeDABoost框架,经多基准数据集验证,在保障竞争力性能的同时提升了公平性。
2025-10-03 cs.AI cs.LG
Enhancing Model Fairness and Accuracy with Similarity Networks: A Methodological Approach
本文提出一种基于相似性网络的方法,通过调整相似性分辨率探索数据集偏差特征,以提升模型公平性与准确性,并在分类、插补和增强任务中验证其有效性。
2024-11-08 cs.LG
Exploring the impact of fairness-aware criteria in AutoML
University of Coimbra, CISUC/LASI – Centre for Informatics and Systems of the University of Coimbra(科英布拉大学,CISUC/LASI – 科英布拉大学信息与系统中心)
本文研究了在AutoML框架中直接整合公平性对构建完整ML流水线的影响,通过引入互补公平性指标提升了公平性,尽管预测性能略有下降,但公平性显著提高,且数据使用减少。
2026-04-11 cs.AI cs.LG
Fairness-Aware Interpretable Modeling (FAIM) for Trustworthy Machine Learning in Healthcare
Duke-NUS Medical School(杜克-新加坡国立大学医学院);Singapore General Hospital(新加坡中央医院);National University of Singapore(新加坡国立大学);Duke University(杜克大学)
针对医疗等高风险领域机器学习模型的公平性问题,提出可解释框架FAIM,结合交互式界面与临床专业知识,在真实数据集上实现性能不下降的同时显著缓解偏见,提供多学科参与的定制化AI公平建模模式。
2024-03-08 cs.AI cs.CY cs.LG
ACE: Adaptive Constraint-aware Early Stopping in Hyperparameter Optimization
Texas A&M University(德州农工大学);Microsoft Corporation(微软公司)
部署机器学习模型需要高质量的模型,并需要遵守应用程序约束。这促使超参数优化(HPO)在部署约束下调整模型配置。这些约束通常需要额外的计算成本来评估,并且训练不合格的配置会浪费大量的调优成本。在这项工作中,我们提出了一个自适应约束感知早期停止(ACE)的方法,将约束评估到试验修剪HPO期间。为了最小化总体优化成本,ACE估计成本有效的约束评估区间的理论分析的基础上的预期评估成本。同时,我们在ACE中提出了一个层早期停止准则,该准则在剪枝时考虑了优化和约束度量,并且不需要正则化超参数。我们的实验表明,优越的性能ACE超参数调整的分类任务的公平性或鲁棒性约束。
2022-08-04 cs.LG
Benchmarking Bias Mitigation Toward Fairness Without Harm from Vision to LVLMs
The Ohio State University(俄亥俄州立大学);Stevens Institute of Technology(史蒂文斯理工学院)
NH-Fair提出一个统一基准,评估视觉到大视觉语言模型的公平性无害性,通过系统调优和数据增强方法减少偏见,提升公平性和准确性。
2026-02-03 cs.CV cs.LG
Local Statistical Parity for the Estimation of Fair Decision Trees
Computer Science Department, CIMAT(CIMAT 计算机科学系);University of Edinburgh(爱丁堡大学)
针对决策树估计的公平性问题,提出局部统计奇偶性准则并融入递归算法,设计约束逻辑回归树(C-LRT)以平衡准确性与公平性,实验验证有效。
2025-04-25 cs.LG
FAIRO: Fairness-aware Adaptation in Sequential-Decision Making for Human-in-the-Loop Systems
University of California, Irvine(加州大学尔湾分校)
针对人在回路序贯决策系统中人类偏好动态变化引发的公平性偏差问题,提出基于Options强化学习的FAIRO算法,支持公平性-效用权衡,在三类场景中平均提升公平性35.36%。
2023-11-06 cs.AI cs.CY cs.LG
Class-attribute Priors: Adapting Optimization to Heterogeneity and Fairness Objective
University of California, Riverside(加州大学河滨分校);University of Michigan, Ann Arbor(密歇根大学安娜堡分校);University of British Columbia(不列颠哥伦比亚大学)
本文提出 CAP 框架,依据各类别样本量、标签质量、可预测性等属性生成类别特定学习策略,以适应异质性并提升公平性、标签噪声及加权目标下的分类表现。
2024-01-25 cs.CY cs.LG stat.ML
Deep Fair Learning: Task-Aware Fair Representations via Joint Distance-Covariance Regularization
University of Alberta(阿尔伯塔大学)
本文提出深度公平学习框架,将非线性充分降维与深度学习结合,通过微调中的新惩罚项实现敏感属性与表示的条件独立,在多种敏感属性类型和数据结构上显著优于现有方法。
2026-10-06 cs.LG stat.ML
Fairness in Multi-Task Learning via Wasserstein Barycenters
Université de Montréal(蒙特利尔大学);Université du Québec à Montréal(魁北克大学蒙特利尔分校)
本文利用多边际Wasserstein重心将强人口统计均等扩展到多任务学习,给出回归与二分类场景下最优公平预测器的闭式解,并通过实验验证后处理方法在公平决策中的实用价值。
2023-07-06 cs.CY cs.LG stat.ML
UP5: Unbiased Foundation Model for Fairness-aware Recommendation
Rutgers University(罗格斯大学)
本文提出反事实公平提示(CFP)方法,构建无偏基础模型(UFO),以缓解LLM推荐中的用户侧不公平,实验证明其在MovieLens-1M和Insurance数据集上兼顾公平与性能。
2024-05-29 cs.AI cs.CL cs.IR
Efficient and Interpretable Transformer for Counterfactual Fairness
Acturial and Risk Mangament Sciences, University of Illinois Urbana-Champaign(精算与风险管理科学,伊利诺伊大学厄巴纳-香槟分校)
本文提出FCorrTransformer和CAR框架,通过特征相关性建模提升模型公平性与效率,实验证明其在不平衡分类和回归任务中表现优异。
2026-04-29 cs.LG
From Optimization to Generalization: Fair Federated Learning against Quality Shift via Inter-Client Sharpness Matching
School of Electronic Information and Communications, Huazhong University of Science and Technology(华中科技大学电子信息与通信学院)
本研究针对联邦学习中成像质量偏移导致的公平性问题,提出客户端间锐度匹配(FedISM)方法,通过锐度感知协调客户端泛化,实验证明其优于现有方法。
2024-12-18 cs.CV cs.LG
Multi-Objective Population Based Training
Centrum Wiskunde & Informatica(荷兰国家数学与计算机科学研究所);Leiden University Medical Center(莱顿大学医学中心);Delft University of Technology(代尔夫特理工大学)
针对现实中多冲突目标的超参数优化需求,本文提出多目标版PBT算法MO-PBT,并在精确率/召回率、准确率/公平性及准确率/对抗鲁棒性等任务上验证其优于随机搜索、单目标PBT和MO-ASHA。
2023-06-02 cs.LG cs.NE
Dynamic Hyperparameter Importance for Efficient Multi-Objective Optimization
Institute of Artificial Intelligence (LUH | | AI)(人工智能研究所);Leibniz University Hannover(汉诺威莱比锡大学);L3S Research Center(L3S研究中心)
本文提出了一种动态优化方法,通过动态调整超参数重要性来提高多目标优化的效率和效果。
2026-01-06 cs.LG
Modeling User Exploration Saturation: When Recommender Systems Should Stop Pushing Novelty
University of Massachusetts Boston(马萨诸塞大学波士顿分校);Kansas State University(堪萨斯州立大学)
研究探讨了用户依赖的探索饱和现象,分析了增加探索对不同推荐模型用户的影响,发现公平性驱动的探索存在边际效益递减,需调整推荐系统以平衡公平与用户体验。
2026-04-02 cs.AI cs.IR cs.LG
Fairness-Aware Graph Representation Learning with Limited Demographic Information
Florida International University(佛罗里达国际大学);University of New Mexico(新墨西哥大学);Boise State University(博伊西州立大学);University of Louisville(路易斯维尔大学)
本文提出FairGLite框架,在有限人口信息下减轻图学习中的偏见,通过生成人口信息代理和自适应置信度策略,实现公平性和效用的平衡。
2025-12-26 cs.CY cs.LG
LabellessFace: Fair Metric Learning for Face Recognition without Attribute Labels
Shizuoka University(静冈大学);RIKEN AIP(理化学研究所人工智能项目);Tohoku University(东北大学)
针对人脸识别系统的人口统计偏差问题,提出无需人口属性标签的LabellessFace框架,通过类别偏袒程度度量和公平类别间隔惩罚动态调整学习,在保证认证准确率的同时提升公平性。
2024-09-14 cs.AI cs.CV cs.CY
Interpretable Fair Clustering
School of Software, Dalian University of Technology(大连理工大学软件学院)
本文提出了一种可解释且公平的聚类框架,通过整合公平性约束到决策树结构中,提升聚类的公平性和可解释性。
2025-11-26 cs.LG
Towards Responsible AI in Banking: Addressing Bias for Fair Decision-Making
本论文针对银行业人工智能决策中的偏见问题,提出理解、缓解和考量偏见三大支柱,并通过与 Intesa Sanpaolo 合作及开源 Bias On Demand 和 FairView 工具,推动负责任人工智能的落地。
2024-01-13 cs.CY cs.LG stat.AP
Testing the Efficacy of Hyperparameter Optimization Algorithms in Short-Term Load Forecasting
Dept. of Management Information Systems(管理信息系);Istanbul Bilgi University(伊斯坦布尔比尔吉大学)
本研究评估了五种超参数优化算法在短期负荷预测中的性能,发现HPO算法在运行时间上优于随机搜索,但贝叶斯优化在单变量模型中准确性较低。
2024-10-19 cs.LG
AFed: Algorithmic Fair Federated Learning
City University of Macau(澳门城市大学);Shenzhen University of Advanced Technology(深圳理工大学)
针对联邦学习无法集中访问敏感数据导致的群体公平性难题,本文提出AFed框架,通过服务器或客户端条件生成器学习全局分布并增强本地数据,理论与实验均证明其显著优于基线。
2025-01-06 cs.AI cs.LG
Multi-Objective Hyperparameter Optimization in Machine Learning -- An Overview
Fraunhofer Institut für integrierte Schaltungen(弗劳恩霍夫集成电路研究所);Ludwig-Maximilians-Universität München(慕尼黑大学);Technische Universität Dortmund(多特蒙德工业大学);Universidad Pontificia Comillas(康普卢滕塞大学);Warwick Business School(华威商学院)
本文综述了机器学习中的多目标超参数优化,介绍其基本概念并系统梳理进化算法与贝叶斯优化等策略,同时展示其在运行条件、预测时间、稀疏性、公平性、可解释性和鲁棒性等目标上的应用价值。
2024-06-06 cs.LG stat.ML
Achieving Fair PCA Using Joint Eigenvalue Decomposition
IIIT Hyderabad(印度国际信息技术研究所(海得拉巴))
本文提出将联合特征值分解(JEVD)与主成分分析(PCA)结合,以实现公平降维,在保留数据结构的同时促进群体间公平,并在多个数据集上优于现有基线方法。
2025-02-24 cs.LG stat.ML
Parallel Multi-Objective Hyperparameter Optimization with Uniform Normalization and Bounded Objectives
Argonne National Laboratory(阿贡国家实验室);Oak Ridge National Laboratory(橡树岭国家实验室)
针对多目标超参数优化中的尺度差异、失败与异常值问题,提出带统一归一化、随机权重标量化、目标约束及并行化的 MoBO 算法,16 倍工作节点下获得 5 倍加速。
2023-09-26 cs.DC cs.LG
Some Optimizers are More Equal: Understanding the Role of Optimizers in Group Fairness
Department of Electrical and Computer Engineering, Queen’s University(皇后大学电气与计算机工程系);Department of Computer Science and Technology, University of Cambridge(剑桥大学计算机科学与技术系)
本研究探讨优化器选择对深度神经网络群体公平性的影响,发现自适应优化器(如RMSProp)比SGD更易收敛到公平解,并通过理论和实验验证其公平性优势。
2025-10-24 cs.CV cs.LG stat.ML
AIM-Fair: Advancing Algorithmic Fairness via Selectively Fine-Tuning Biased Models with Contextual Synthetic Data
Queen Mary University of London(伦敦玛丽女王大学)
AIM-Fair提出利用上下文感知LLM引导扩散模型生成无偏合成数据,并通过选择性微调仅更新对偏差敏感的参数,从而在无人口统计标签条件下同时提升模型公平性与效用。
2025-03-07 cs.CV cs.LG
Towards Fair and Privacy-Preserving Federated Deep Models
National University of Singapore(新加坡国立大学);Monash University(莫纳什大学);IBM Singapore Lab(IBM新加坡实验室);The University of Melbourne(墨尔本大学);Swinburne University of Technology(斯威本科技大学);Nanyang Technological University(南洋理工大学);Australian National University(澳大利亚国立大学)
当前独立的深度学习框架往往会导致过拟合和低效用。这个问题可以通过集中式框架来解决,该集中式框架部署中央服务器以在来自所有各方的联合数据上训练全局模型,或者通过分布式框架来解决,该分布式框架利用参数服务器来聚合局部模型更新。基于服务器的解决方案容易出现单点故障问题。在这方面,协作学习框架,如联邦学习(FL),更强大。现有的联邦学习框架忽略了参与的一个重要方面:公平性。所有各方都得到了相同的最终模型,而不考虑他们的贡献。为了解决这些问题,我们提出了一个分散的公平和隐私保护深度学习(FPPDL)框架,将公平性纳入联邦深度学习模型。特别是,我们设计了一个本地可信度相互评估机制,以保证公平性,和一个三层洋葱式加密方案,以保证准确性和隐私。与现有的外语教学模式不同,在FPPDL模式下,每个参与者接受不同版本的外语教学模式,其表现与他的贡献相称。在基准数据集上的实验表明,FPPDL平衡了公平性,隐私性和准确性。它使联邦学习生态系统能够检测和隔离低贡献方,从而促进负责任的参与。
2020-05-19 cs.AI cs.CR cs.LG
Aequitas Flow: Streamlining Fair ML Experimentation
Feedzai(费扎伊公司);University of Porto(波尔图大学);Carnegie Mellon University(卡内基梅隆大学)
Aequitas Flow是基于Python的开源公平机器学习实验框架,补齐现有工具集成缺口,提供公平感知训练等流水线与标准接口,助力便捷开展公平ML实验,推动AI系统更鲁棒公平。
2024-10-30 cs.AI cs.CY cs.LG
Adaptive Boosting with Fairness-aware Reweighting Technique for Fair Classification
Tsinghua University(清华大学);Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心)
提出公平 AdaBoost(FAB)方法,利用公平性感知重加权技术在保持预测性能的同时实现公平分类,并推导了目标损失函数上界,在三个真实数据集上优于现有公平分类方法。
2024-01-06 cs.CY cs.LG cs.SY
Fairkit, Fairkit, on the Wall, Who's the Fairest of Them All? Supporting Data Scientists in Training Fair Models
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
现代软件在很大程度上依赖于数据和机器学习,并影响着塑造我们世界的决策。不幸的是,最近的研究表明,由于数据中的偏见,软件系统经常在他们的决策中注入偏见,从产生比女性声音更好的隐藏字幕到对有色人种的金融贷款收取过高的费用。为了解决机器学习中的偏见问题,数据科学家需要一些工具来帮助他们理解特定数据域中模型质量和公平性之间的权衡。为此,我们提出了fairkit-learn,一个帮助数据科学家推理和理解公平性的工具包。Fairkit-learn与最先进的机器学习工具配合使用,并使用相同的界面来简化采用。它可以评估由多个机器学习算法、超参数和数据排列产生的数千个模型,并计算和可视化一个小的帕累托最优模型集,这些模型描述了公平性和质量之间的最佳权衡。我们通过对54名学生的用户研究评估了fairkit-learn,结果表明,使用fairkit-learn的学生生成的模型比使用scikit-learn和IBM AI Fairness 360工具包的学生在公平性和质量之间提供了更好的平衡。使用fairkit-learn,用户可以选择比scikit-learn训练的模型更公平67%、更准确10%的模型。
2020-12-17 cs.HC cs.LG
Reinforcement-Guided Hyper-Heuristic Hyperparameter Optimization for Fair and Explainable Spiking Neural Network-Based Financial Fraud Detection
organization= Department of Computer Science \& Engineering, Khulna University of Engineering \& Technology (KUET) , city= Khulna , postcode= 9203 , country= Bangladesh;organization= Thomas Lord Department of Computer Science, Viterbi School of Engineering, University of Southern California , city= Los Angeles , state= CA , postcode= 90089 , country= USA;organization= Department of Computer Science, American International University-Bangladesh (AIUB) , city= Dhaka , postcode= 1229 , country= Bangladesh
本文提出结合脉冲编码网络与强化学习引导超启发式优化器的框架,用于实现公平且可解释的脉冲神经网络金融欺诈检测,通过在Bank Account Fraud数据集上验证,模型在5%的假阳性率下达到90.8%的召回率。
2026-03-23 cs.LG
Fair Federated Medical Image Classification Against Quality Shift via Inter-Client Progressive State Matching
School of Electronic Information and Communications, Huazhong University of Science and Technology(华中科技大学电子信息与通信学院);Lassonde School of Engineering, York University(约克大学拉萨onde工程学院)
本文提出FedISM+方法,通过多状态收敛评估和渐进状态匹配,在联邦医学图像分类中缓解客户端间成像质量偏移带来的模型偏见,提升公平性。
2025-03-12 cs.CV cs.LG eess.IV
Predictive Churn with the Set of Good Models
Harvard University(哈佛大学);Google(谷歌);DeepMind(深度思维);UC San Diego(圣迭戈大学)
本文揭示了算法公平性中的预测多重性与实际部署中的预测流失这两个看似无关的预测不一致概念之间的理论与实证联系。
2025-04-25 cs.LG
RL-FAT: Reinforcement Learning for Fair Adversarial Training
University of Mannheim(曼海姆大学);MPI for Informatics(马克斯·普朗克信息学研究所)
针对对抗训练存在的类别鲁棒性失衡问题,提出受强化学习启发的RL-FAT框架,结合强化驱动自适应与公平强调正则化,在提升鲁棒性的同时大幅降低类别鲁棒性失衡。
2026-09-01 cs.LG
Fair Active Learning: Solving the Labeling Problem in Insurance
Université Gustave Eiffel(古斯塔夫·埃菲尔大学);ENSAE-CREST(法国国立统计与经济行政学校-经济研究与统计中心);Milliman France(万利曼咨询法国分公司);Société Générale Insurance(法国兴业保险)
针对保险机器学习中的标注成本、数据利用与偏见复制问题,本文提出公平主动学习方法,通过采样 informative 且公平的实例,在预测性能和公平性之间取得平衡。
2024-05-20 cs.LG stat.ML
Multimodal Survival Modeling and Fairness-Aware Clinical Machine Learning for 5-Year Breast Cancer Risk Prediction
Tarbiat Modares University(塔比阿特莫达勒斯大学)
本研究提出了一种多模态生存建模框架,结合临床数据和高维生物标志物,通过CoxNet和XGBoost模型预测乳腺癌5年生存率,并强调模型的校准、公平性和可重复性。
2026-02-25 cs.LG q-bio.QM
Conditional Supervised Contrastive Learning for Fair Text Classification
University of Virginia(弗吉尼亚大学);UC Berkeley(加州大学伯克利分校);UCLA(加州大学洛杉矶分校);UIUC(伊利诺伊大学厄巴纳-香槟分校)
对比表示学习由于其在图像和序列数据表示学习方面的优越性能而受到广泛关注。然而,学习的表示可能会导致下游任务的性能差异,例如在毒性评论分类中代表性不足的群体的沉默增加。鉴于这一挑战,在这项工作中,我们研究了通过对比学习学习满足公平性概念的公平表示,即文本分类的均衡化几率。具体来说,我们首先从理论上分析了公平约束的学习表示和条件监督对比目标之间的联系,然后提出使用条件监督对比目标来学习文本分类的公平表示。我们在两个文本数据集上进行实验,以证明我们的方法在平衡现有文本分类基线之间的任务性能和偏见缓解之间的权衡方面的有效性。此外,我们还表明,所提出的方法是稳定的,在不同的超参数设置。
2022-10-31 cs.AI cs.CL cs.CY
Fast and Efficient MMD-based Fair PCA via Optimization over Stiefel Manifold
KAIST(韩国科学技术院);UC Berkeley IEOR(加州大学伯克利分校工业工程与运筹学系);Citadel(城堡投资);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文将公平主成分分析(PCA)定义为最小化不同保护类的降维条件分布之间的最大均值差异(MMD)。MMD的纳入自然会导致一个准确和易于处理的数学公式的公平性具有良好的统计特性。我们将受MMD约束的公平PCA问题表示为Stiefel流形上的非凸优化,并使用具有平滑的黎曼精确罚方法(REPMS; Liu和Boumal,2019)解决它。重要的是,我们提供了局部最优性保证,并明确显示了每个超参数在实际设置中的理论效果,扩展了以前的结果。基于合成数据集和UCI数据集的实验比较表明,我们的方法在解释方差,公平性和运行时间方面优于以前的工作。
2022-01-25 cs.CY cs.LG stat.ML
PraFFL: A Preference-Aware Scheme in Fair Federated Learning
Southern University of Science and Technology(南方科技大学);The University of Hong Kong(香港大学)
针对现有公平联邦学习方法仅支持客户端单一偏好的局限,提出偏好感知方案PraFFL,可实时生成适配客户端任意偏好的最优模型,具备线性收敛性,性能优于六种同类算法。
2025-01-11 cs.CY cs.DC cs.LG
FairDiffusion: Enhancing Equity in Latent Diffusion Models via Fair Bayesian Perturbation
Harvard Medical School(哈佛医学院);New York University(纽约大学);New York University Abu Dhabi(纽约大学阿布扎比分校);Harvard University(哈佛大学);Broad Institute of MIT and Harvard(麻省理工学院与哈佛大学博德研究所)
针对医疗文本到图像扩散模型在不同人口亚组间生成质量不公平的问题,提出公平感知模型FairDiffusion与数据集FairGenMed,通过贝叶斯扰动提升图像质量与临床特征语义相关性,显著缓解了性别、种族偏见。
2025-04-05 cs.CV cs.LG
Fair Recommendations with Limited Sensitive Attributes: A Distributionally Robust Optimization Approach
University of Science and Technology of China(中国科学技术大学)
针对敏感属性信息有限时推荐系统的公平性问题,提出分布鲁棒公平优化(DRFO)方法,通过最小化最坏情况不公平性来应对属性重建误差,并验证其有效性。
2024-05-27 cs.CY cs.IR cs.LG