Adapting Static Fairness to Sequential Decision-Making: Bias Mitigation Strategies towards Equal Long-term Benefit Rate
University of Maryland, College Park(马里兰大学帕克分校);University of Southern California(南加州大学)
针对机器学习序贯决策中的长期公平性问题,提出平等长期收益率(ELBERT)概念及偏差缓解方法ELBERT-PO,通过将长期公平性纳入MDP并简化策略梯度,在保持高实用性的同时显著降低偏差。
2024-05-28 cs.CY cs.LG
Data Bias Mitigation under Coverage Constraints & The Price of Fairness
Khoury College of Computer Sciences, Northeastern University(东北大学库里计算机科学学院);Cheriton School of Computer Science, University of Waterloo(滑铁卢大学切里顿计算机科学学院)
针对多敏感属性交叉群体的偏差问题,提出在覆盖约束下扩展偏差缓解框架,通过整数线性规划优化缓解策略,权衡偏差近似误差与数据效率,并刻画公平的代价。
2026-06-19 cs.CY cs.DB cs.LG
Fairness Violations and Mitigation under Covariate Shift
Fusemachines Inc.(Fusemachines公司)
我们研究的问题,学习公平的预测模型分布不同的训练集看不见的测试集。针对数据分布变化的稳定性是负责任地部署模型的重要任务。领域自适应文献解决了这一问题,尽管稳定性的概念限于预测精度。我们确定了稳定模型的充分条件,无论是在预测精度和公平性方面,可以学习。使用因果图描述的数据和预期的变化,我们指定了一种基于特征选择的方法,该方法利用数据中的条件独立性来估计测试集的准确性和公平性指标。我们表明,对于特定的公平性定义,所得到的模型满足最坏情况下的最优性的形式。在医疗保健任务的背景下,我们说明了这种方法在做出更公平的决定的优势。
2021-01-22 cs.CY cs.LG stat.ML
Bias Mitigation in Fine-tuning Pre-trained Models for Enhanced Fairness and Efficiency
Hangzhou Dianzi University(杭州电子科技大学);Remin University of China(中国人民大学)
本文提出高效鲁棒的公平微调框架,利用跨群体 Fisher 信息识别并中和影响不同人口统计群体的权重,并结合低秩矩阵分解降低计算成本。
2024-03-01 cs.CY cs.LG
Does Robustness Improve Fairness? Approaching Fairness with Word Substitution Robustness Methods for Text Classification
Amazon Alexa(亚马逊Alexa);UCLA(加州大学洛杉矶分校)
现有的偏差缓解方法,以减少跨队列的模型结果的差异集中在数据增强,去偏置模型嵌入,或在训练过程中添加基于公平性的优化目标。另外,已经开发了经认证的单词替换鲁棒性方法,以减少虚假特征和同义词替换对模型预测的影响。虽然它们的最终目标不同,但它们都旨在鼓励模型对输入的某些变化做出相同的预测。在本文中,我们研究了实用的认证字替换鲁棒性方法,以提高平等的赔率和机会均等的多个文本分类任务。我们观察到,经过认证的鲁棒性方法提高了公平性,并且在训练中使用鲁棒性和偏差缓解方法可以在两个方面都有所改善
2021-06-21 cs.CL cs.CY
One-vs.-One Mitigation of Intersectional Bias: A General Method to Extend Fairness-Aware Binary Classification
Fujitsu Laboratories Ltd.(富士通实验室)
本文提出一对一缓解方法,通过比较敏感属性各子群体对,在二分类中显著降低交叉偏见,优于传统方法,适用于多敏感属性场景。
2025-03-25 cs.AI cs.CY cs.LG
FRAPPE: A Group Fairness Framework for Post-Processing Everything
ETH Zurich(苏黎世联邦理工学院);Google DeepMind(谷歌DeepMind)
针对现有后处理公平性方法适用场景受限的问题,提出FRAPPE框架,可将任意带正则化的处理中公平性方法转化为后处理方法,保留优异公平性-误差权衡,适用场景更广且效果更优,还具备模块化策略的多项优势。
2024-06-20 cs.CY cs.LG
Different Horses for Different Courses: Comparing Bias Mitigation Algorithms in ML
McGill University(麦吉尔大学);Mila(米拉);Iowa State University(爱荷华州立大学);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
本文通过实验揭示机器学习偏差缓解算法的公平性表现受超参数、随机种子和特征选择等评估设置显著影响,指出在允许超参数优化时多数方法性能相当,表面上的优劣常源于评估参数选择而非算法本身。
2024-11-19 cs.AI cs.CY cs.LG
Fairness Issues and Mitigations in (Differentially Private) Socio-Demographic Data Processes
University of Virginia(弗吉尼亚大学);Georgia Institute of Technology(佐治亚理工学院);RTI International(RTI国际公司)
本文研究差分隐私社会人口数据过程中的公平性问题,提出优化抽样方法,并发现差分隐私噪声可减少不公平性,经人口普查数据验证。
2025-01-19 cs.AI cs.CR cs.CY
Revisiting Technical Bias Mitigation Strategies
Stanford University School of Medicine(斯坦福大学医学院)
本文从五个关键维度系统分析了医疗场景中技术性偏见缓解策略的实际局限,并提出价值敏感AI框架及实用建议以推动更有效的公平性实践。
2024-10-22 cs.AI cs.CY
FairGridSearch: A Framework to Compare Fairness-Enhancing Models
Humboldt-Universität zu Berlin(柏林洪堡大学);Technische Hochschule Wildau(维尔道应用技术大学);Hochschule für Technik und Wirtschaft Berlin(柏林工程与经济应用科学大学)
本文提出FairGridSearch框架,通过实验不同参数组合比较公平性增强模型,发现指标选择、基础估计器和分类阈值对模型公平性有不同影响,强调构建公平模型需考虑更广泛因素。
2024-01-04 cs.AI cs.CY cs.LG
Bias Mitigation Framework for Intersectional Subgroups in Neural Networks
Meta AI
我们提出了一个公平意识的学习框架,减轻与受保护的属性相关的交叉子组偏见。先前的研究主要集中在通过将复杂的公平驱动约束纳入优化目标或设计专注于特定受保护属性的附加层来减轻一种偏见。我们介绍了一个简单的和通用的偏见缓解方法,防止模型学习之间的关系,保护属性和输出变量,减少它们之间的互信息。我们证明,我们的方法是有效的,在减少偏见,很少或没有下降的准确性。我们还表明,用我们的学习框架训练的模型变得因果公平,对受保护属性的值不敏感。最后,我们通过研究受保护和不受保护的属性之间的功能交互来验证我们的方法。我们证明,这些相互作用显着减少时,应用我们的偏见缓解。
2022-12-26 cs.CY cs.LG
Accurate Fairness: Improving Individual Fairness without Trading Accuracy
State Key Laboratory of Computer Science, Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所计算机科学国家重点实验室);University of Chinese Academy of Sciences(中国科学院大学)
准确性和个体公平性对于可信的机器学习都是至关重要的,但这两个方面往往是相互不兼容的,因此增强一个方面可能会不可避免地牺牲另一个方面,从而产生真偏差或假公平的副作用。我们在本文中提出了一个新的公平标准,准确的公平性,个人的公平性与准确性。非正式地说,它要求个人和个人的类似对应方的待遇符合统一的目标,即,个人的基本事实我们证明,准确的公平性也意味着典型的组公平标准在一个联盟的类似的子种群。然后,我们提出了一个暹罗公平处理方法,以最大限度地减少准确性和公平性损失的机器学习模型下准确的公平性约束。据我们所知,这是第一次采用暹罗方法来缓解偏差。我们还提出了公平混淆矩阵为基础的指标,公平精度,公平召回,公平F1得分,量化准确性和个人公平之间的权衡。与流行的公平数据集的比较案例研究表明,我们的暹罗公平方法可以实现平均1.02%-8.78%的个人公平性正确率提高8.38%~ 13.69%,真实公平率提高10.09%~ 20.57%,公平F1分提高5.43%~ 10.01%,最先进的偏差缓解技术。这表明我们的暹罗公平方法确实可以在没有交易准确性的情况下提高个人公平性。最后,应用精确公平标准和Siamese公平方法来减轻真实携程数据集可能的服务歧视,平均公平地服务于比基线模型多112.33%的客户(具体地说,以精确公平的方式多81.29%的客户)。
2022-11-30 cs.CY cs.LG
Harnessing value from data science in business: ensuring explainability and fairness of solutions
London School of Economics(伦敦经济学院);Paris School of Economics(巴黎经济学院)
本文介绍了人工智能中公平性和可解释性的概念,面向解决复杂的商业问题。为了公平起见,作者讨论了导致偏见的细节,以及相关的缓解方法,最后提出了一套在数据驱动的组织中引入公平性的方法。此外,对于XAI,作者审核了与示范业务用例配对的特定算法,讨论了大量解释质量量化的技术,并概述了未来的研究途径。
2021-08-10 cs.CY cs.LG
Bias Discovery in Machine Learning Models for Mental Health
Utrecht University(乌得勒支大学);University Medical Center Utrecht(乌得勒支大学医学中心);Leiden University Medical Center(莱顿大学医学中心);Leiden University(莱顿大学)
公平和偏见是人工智能中的关键概念,但在临床精神病学的机器学习应用中,它们相对被忽视。我们使用一个在临床心理健康数据上训练的模型来计算公平性指标并提出偏见缓解策略。我们收集了与乌得勒支大学医学中心精神科患者的入院、诊断和治疗相关的结构化数据。我们训练了一个机器学习模型,以根据过去的数据预测苯二氮卓类药物的未来给药。我们发现,性别在预测中扮演了一个意想不到的角色,这构成了偏见。使用AI Fairness 360包,我们实现了重新加权和歧视感知正则化作为偏差缓解策略,并探索了它们对模型性能的影响。这是在真实临床精神病学数据上训练的机器学习模型中首次应用偏差探索和缓解。
2022-05-24 cs.AI cs.CY cs.LG
Fairness Hub Technical Briefs: Definition and Detection of Distribution Shift
本文聚焦教育场景中分布偏移的定义与检测,指出训练与部署数据不匹配导致性能下降,并关注标准预测任务中模型输入输出关系。
2024-05-23 cs.CY cs.LG
Fairness Hub Technical Briefs: AUC Gap
本文提出用 AUC Gap 衡量不同子群体间的模型性能差异,为多团队教育 AI/ML 应用提供算法无关、易计算的公平性基准与分析依据。
2023-09-25 cs.CY cs.LG
Effective Controllable Bias Mitigation for Classification and Retrieval using Gate Adapters
Johannes Kepler University Linz(约翰开普勒林茨大学);Linz Institute of Technology(林茨理工学院)
本文提出可控门控适配器ConGater,通过可调灵敏度参数在推理时实现模型偏见与去偏见状态的连续过渡,在分类与检索任务中均优于基线,兼顾性能与公平性。
2024-02-19 cs.AI cs.CY cs.LG
Towards Integrating Fairness Transparently in Industrial Applications
AT&T Labs - Research(AT&T实验室-研究部)
近年来,许多与机器学习(ML)偏见相关的失败导致了对公司如何在其ML生命周期中纳入透明度和问责制方面的审查。公司有责任监控ML流程中的偏见,并减轻检测到的任何偏见,确保业务产品的完整性,维护客户忠诚度,并保护品牌形象。行业ML项目所面临的挑战可以大致分为原则性文档、人为监督以及对实现信息重用和提高成本效率的机制的需求。我们强调了具体的障碍,并为ML从业者和组织主题专家提出了基于每个类别的概念解决方案。我们的系统方法通过在ML生命周期的各个阶段将机械化和人在环组件集成到偏差检测、缓解和项目文档中来应对这些挑战。为了激励我们的系统的实施- SIFT(系统整合公平性)-我们提出了它的结构原语与一个示例现实世界的用例,它可以用来识别潜在的偏见,并确定适当的缓解策略,在参与的方式。
2021-02-13 cs.AI cs.CY cs.LG
MIFair: A Mutual-Information Framework for Intersectionality and Multiclass Fairness
Orange Research(Orange研究院);EURECOM
MIFair通过互信息框架解决机器学习中的公平性问题,提供灵活的指标模板和偏见缓解方法,支持交集性和多类分类,实验显示其能有效减少偏见并保持预测性能。
2026-04-30 cs.AI cs.CY cs.IT
BeFair: Addressing Fairness in the Banking Sector
Intesa Sanpaolo(联合圣保罗银行);Fujitsu Laboratories of Europe(富士通欧洲研究院)
缓解算法偏见一直是数据科学界和机器学习(ML)专家面临的最困难的难题之一。几年来,在ML的公平性领域出现了巨大的努力。尽管在识别偏见和设计公平算法方面取得了进展,但将它们转化为行业仍然是一个重大挑战。在本文中,我们介绍了银行业行业开放式创新项目的初步成果:我们提出了ML公平性的总体路线图,并实施了一个名为BeFair的工具包,该工具包有助于识别和减轻偏见。结果表明,在没有明确约束的情况下训练模型可能会导致预测偏差加剧。
2021-02-04 cs.CY cs.LG
Fairness-Aware Data Valuation for Supervised Learning
Feedzai(Feedzai公司);Instituto Superior Técnico, Universidade de Lisboa(里斯本大学高等技术学院);Instituto de Telecomunicações(电信研究所)
数据估值是一个ML领域,研究训练实例对给定预测任务的价值。虽然数据偏差是下游模型不公平的主要来源之一,但以前的数据评估工作并没有考虑训练实例如何影响ML模型的性能和公平性。因此,我们提出了公平感知数据评估(FADO),这是一个数据评估框架,可用于将公平性问题纳入一系列ML相关任务(例如,数据预处理、探索性数据分析、主动学习)。我们提出了一个基于熵的数据评估指标,适合于解决我们的双管齐下的目标,最大限度地提高性能和公平性,这是更有效的计算比现有的指标。然后,我们将展示如何FADO可以应用为基础的不公平缓解预处理技术。我们的方法取得了令人鼓舞的结果-与基线相比,公平性提高了40个百分点,性能损失不到1个百分点-并以数据为中心的方式促进公平性,其中对数据质量的更深入理解占据了中心地位。
2023-03-29 cs.CY cs.LG
More Data Can Lead Us Astray: Active Data Acquisition in the Presence of Label Bias
University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文研究存在标签偏差时主动数据收集的公平性问题,发现忽视标签偏差时更多数据反而会加剧偏差,强调必须明确区分公平算法所针对的偏差类型并重视标签偏差风险。
2022-07-15 cs.CY cs.LG
Explaining Knock-on Effects of Bias Mitigation
IBM Research(IBM研究院);University College Dublin(都柏林大学学院)
本文提出用可解释元分类器识别偏差缓解干预所影响的群体,并发现所有缓解策略都会对相当一部分案例产生负面影响,主张超越聚合指标进行更审慎的审计。
2023-12-01 cs.CY cs.LG
Bias and Fairness in Large Language Models: A Survey
Stanford University(斯坦福大学);Adobe Research(奥多比研究院);Pattern Data(帕特恩数据公司);Intel Labs(英特尔实验室)
该综述整合规范了大语言模型的偏见与公平性概念,提出偏见评估指标、数据集及缓解技术三类分类体系,梳理现有研究并指出未来挑战,为防范LLM偏见传播提供指引。
2024-07-12 cs.AI cs.CL cs.CY
Mitigating Group Bias in Federated Learning: Beyond Local Fairness
University of Minnesota(明尼苏达大学);Cisco Systems Inc.(思科系统公司)
本研究探讨了联邦学习中局部公平训练的理论基础,证明全局模型公平性可由本地客户端汇总统计量获得,并提出一种直接最小化带惩罚经验损失的全局公平训练算法,在保持高准确率的同时显著提升了公平性。
2023-05-17 cs.CY cs.LG
Uncovering Bias in Foundation Models: Impact, Testing, Harm, and Mitigation
Nankai University(南开大学);University of Oulu(奥卢大学);National University of Defense Technology(国防科技大学)
本研究提出TriProTesting测试方法和AdaLogAdjustment后处理技术,揭示并缓解CLIP等基础模型在性别、种族等属性上的显性和混合偏见,无需重训练即可显著提升公平性。
2025-01-14 cs.AI cs.CY cs.LG
Data vs. Model Machine Learning Fairness Testing: An Empirical Study
Delft University of Technology(代尔夫特理工大学)
本文通过实证研究发现数据公平性与模型公平性指标之间存在线性关系,表明在训练前进行公平性测试可作为一种低成本且有效的方法,用于及早发现数据偏见和漂移,减少训练成本。
2024-01-15 cs.CY cs.LG cs.SE
Minority Collective Action for User-Side Fairness
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Tübingen AI Center(图宾根人工智能中心);Department of Computer Science, University of Copenhagen(哥本哈根大学计算机科学系);ETH Zurich(苏黎世联邦理工学院)
针对现有企业端偏见缓解技术存在效用成本、需组织支持的问题,提出基于算法集体行动框架的三种模型无关重标注方法,验证发现少数群体子群体即可大幅降不公平性且对预测误差影响小。
2026-10-06 cs.CY cs.LG
Rethinking Bias Mitigation: Fairer Architectures Make for Fairer Face Recognition
University of Maryland(马里兰大学);University of Freiburg(弗莱堡大学);Arthur AI(亚瑟人工智能公司);Caltech(加州理工学院);New York University(纽约大学)
本文发现人脸识别偏见内生于神经网络架构,首次通过联合公平性神经架构搜索与超参数搜索,得到在 CelebA 和 VGGFace2 上准确率与公平性均 Pareto 占优的模型。
2023-12-06 cs.AI cs.CV cs.CY
Strategic Demonstration Selection for Improved Fairness in LLM In-Context Learning
University of Bristol(布里斯托尔大学);New Jersey Institute of Technology(新泽西理工学院)
本研究探究上下文学习提示中示范样本对大语言模型公平性的影响,提出结合聚类与进化策略的样本筛选方法,在保障预测准确率的同时有效提升模型公平性。
2024-08-19 cs.CL cs.CY cs.LG
Principal Fairness for Human and Algorithmic Decision-Making
Harvard University(哈佛大学);Institute for Quantitative Social Science(定量社会科学研究所);University of Massachusetts(马萨诸塞大学)
利用因果推理文献中的主要分层概念,我们引入了一个新的公平性概念,称为主要公平性,用于人类和算法决策。关键的想法是,人们不应该歧视那些同样受到决定影响的个人。与现有的公平性统计定义不同,主要公平性明确说明了个人可能受到决策影响的事实。此外,我们解释了如何从现有的cabetity为基础的公平标准的主要公平不同。例如,与反事实公平标准相反,主要公平考虑的是有关决定的影响,而不是受保护的利益属性的影响。我们简要地讨论了如何处理经验评估和策略学习问题下提出的主要公平标准。
2022-03-24 cs.CY cs.LG stat.ML
Fairness and Sequential Decision Making: Limits, Lessons, and Opportunities
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);University of California, Berkeley(加州大学伯克利分校);Microsoft Research(微软研究院)
随着自动决策和决策辅助系统在日常生活中变得越来越普遍,关于预防或减轻这些系统所做决策产生的潜在危害的研究也越来越多。然而,不同的研究团体已经独立地对这些危害进行了概念化,设想了潜在的应用,并提出了干预措施。其结果是一个有点破碎的文学景观一般集中在确保决策算法“做正确的事情”。在本文中,我们比较和讨论的工作在两个主要子集的文献:算法公平性,主要集中在预测系统,道德决策,主要集中在顺序决策和规划。我们探讨这些设置如何表达其规范性的问题,这些不同的设置不同的技术的可行性,以及如何从每个设置的想法可能有其他的效用。
2023-01-13 cs.AI cs.CY cs.LG
Fairness-Aware Interpretable Modeling (FAIM) for Trustworthy Machine Learning in Healthcare
Duke-NUS Medical School(杜克-新加坡国立大学医学院);Singapore General Hospital(新加坡中央医院);National University of Singapore(新加坡国立大学);Duke University(杜克大学)
针对医疗等高风险领域机器学习模型的公平性问题,提出可解释框架FAIM,结合交互式界面与临床专业知识,在真实数据集上实现性能不下降的同时显著缓解偏见,提供多学科参与的定制化AI公平建模模式。
2024-03-08 cs.AI cs.CY cs.LG
Fairness without the sensitive attribute via Causal Variational Autoencoder
CNRS(法国国家科学研究中心);AXA(安盛集团);Polish Academy of Science(波兰科学院)
近年来,机器学习模型中的大多数公平策略都集中在通过假设敏感信息被观察到来减轻不必要的偏差。然而,这在实践中并不总是可能的。由于隐私目的和各种法规,如欧盟的RGPD,许多个人敏感属性通常不会被收集。我们注意到,在这种困难的情况下,缺乏减轻偏见的方法,特别是实现经典的公平目标,如人口均等和均等赔率。通过利用最近的发展近似推理,我们提出了一种方法来填补这一空白。基于因果图,我们依靠一个新的变分自动编码为基础的框架命名为SRCVAE推断敏感信息代理,服务于偏见减轻对抗公平的方法。我们的经验表明,显着的改进,在该领域的现有作品。我们观察到,生成的代理的潜在空间恢复敏感信息,我们的方法实现了更高的准确性,同时获得相同水平的公平性,在两个真实的数据集上,测量使用常见的公平性定义。
2021-09-10 cs.AI cs.CY cs.LG
An Approach to Ensure Fairness in News Articles
University of Toronto(多伦多大学);Environmental Resources Management(环境资源管理公司);DeepBlue Academy of Sciences(深蓝科学院);Toronto Metropolitan University(多伦多都会大学);The University of Sydney(悉尼大学)
推荐系统、信息检索和其他信息访问系统对在非结构化文本中检查和应用公平性和偏见减轻的概念提出了独特的挑战。本文介绍了Dbias,这是一个Python包,以确保新闻文章的公平性。Dbias是一个经过训练的机器学习(ML)管道,可以将文本(例如,段落或新闻故事)并检测文本是否有偏见。然后,它检测文本中有偏见的单词,屏蔽它们,并推荐一组没有偏见或至少偏见较少的新单词的句子。我们结合了数据科学最佳实践的元素,以确保此管道是可复制和可用的。我们在实验中表明,这种管道可以有效地减轻偏见,并在确保新闻文章的公平性方面优于常见的神经网络架构。
2022-07-08 cs.CL cs.CY cs.IR
Fairness Pruning: Locating Demographic Bias in GLU-MLP Layers via Differential Activations
本研究提出Fairness Pruning方法,通过最小对比提示对与激活捕获定位LLM的GLU-MLP层中人口统计偏差神经元,经实验验证该方法可针对性调控偏差且对模型能力影响极小。
2026-07-31 cs.CL cs.CY cs.LG
Learning Fairer Representations with FairVIC
Department of Computer Science, University of York, York, United Kingdom(英国约克大学计算机科学系)
本文提出 FairVIC,在训练损失中引入方差、不变性和协方差项以减少对受保护特征的依赖,实验表明其在不损失准确性的情况下将各项公平性指标提升约 70%。
2025-10-21 cs.AI cs.CY cs.LG
Metrics and methods for a systematic comparison of fairness-aware machine learning algorithms
Experian DataLabs UK&I and EMEA(益博睿英国爱尔兰及欧洲、中东和非洲数据实验室)
理解和消除机器学习模型所做决策的偏见对于避免歧视弱势群体至关重要。尽管最近在算法公平性方面取得了进展,但仍然没有明确的答案来说明哪些偏差缓解方法是最有效的。评估策略通常是特定于用例的,依赖于带有不明确偏见的数据,并采用固定的策略将模型输出转换为决策结果。为了解决这些问题,我们进行了系统的比较,一些流行的公平算法适用于监督分类。我们的研究是同类研究中最全面的。它利用三个真实数据集和四个合成数据集,以及两种不同的将模型输出转换为决策的方法。它考虑了28种不同建模管道的公平性,预测性能,校准质量和速度,对应于公平性感知算法和公平性感知算法。我们发现,不知道公平性的算法通常无法产生足够公平的模型,最简单的算法不一定是最公平的。我们还发现,公平意识算法可以在预测能力没有实质性下降的情况下诱导公平性。最后,我们发现数据集的特质(例如,内在不公平的程度,相关性的性质)确实影响公平意识方法的性能。我们的研究结果允许从业者缩小他们想采用的方法,而不必提前知道他们的公平性要求。
2020-10-08 cs.AI cs.CY cs.LG
Algorithmic decision making methods for fair credit scoring
Alexandru Ioan Cuza University(亚历山德鲁·伊万·库扎大学)
本文评估了12种偏见缓解方法在5种公平性指标上的效果,并分析了其对金融机构的准确性和盈利能力,旨在平衡公平与性能,弥合机器学习研究与金融实践的差距。
2023-06-22 cs.AI cs.CY cs.LG
Bias and Fairness in Chatbots: An Overview
University of Southern California(南加州大学);Massachusetts General Hospital(麻省总医院);Harvard Medical School(哈佛医学院)
本文综述聊天机器人系统中的偏见与公平性问题,梳理其发展历史、类别、偏见来源、潜在危害及公平设计考量,并指出未来研究方向。
2023-12-10 cs.AI cs.CL cs.CY