Fairness in Agentic AI: A Unified Framework for Ethical and Equitable Multi-Agent System
Carnegie Mellon University（卡内基梅隆大学）；BIT Sindri（辛德里理工学院）
本文综述了去中心化多智能体AI中的公平性问题，提出一个将公平性视为动态涌现属性的统一框架，通过整合公平性约束、偏见缓解策略和激励机制来对齐智能体行为，经实证证明能促进更公平的决策，为构建负责任的多智能体系统奠定基础。
2025-03-02 cs.AI cs.CY cs.MA
Variable Selection in the Context of AI Fairness
UniCredit S.p.A.（裕信银行）；Università Cattolica del Sacro Cuore（圣心天主教大学）；Cetif
本文针对AI公平性语境下的变量选择问题，提出将数学方法与伦理、社会意识融合的跨学科方案，主张保留所有潜在相关变量以减少隐含偏差，助力AI系统符合欧盟AI法案要求。
2026-08-13 cs.AI cs.CY cs.LG
Formalizing the Moral Evaluation of Speech Acts: Truthfulness, Lies and Ethical Dilemmas
Sorbonne University（索邦大学）；CNRS（法国国家科学研究中心）
针对生死情境中善意谎言与真相的道德冲突，提出基于智能体信念的逻辑框架，在ASP中实现，评估义务论、后果主义与原则主义下的话语，并以萨特《墙》为例验证，且框架可通过调整参数适应新情境。
2026-10-06 cs.AI cs.LO cs.MA
Designing for Ethical AI: HCI Feature Considerations to Improve Fairness and User Experience in AutoML use for Human Resources
University of Bordeaux（波尔多大学）；IAE（企业管理学院）
该论文结合多视角研究AutoML在人力资源招聘中的公平性，发现现有平台存在缺陷，提出五维度HCI公平评估框架，建议将公平性嵌入AutoML设计以提升伦理可持续性。
2026-08-11 cs.AI cs.HC
What About Applied Fairness?
Booz Allen Hamilton（博思艾伦汉密尔顿）；University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）
机器学习从业者通常对他们产品的道德方面持矛盾态度。我们认为，任何能使我们从目前的状态转变为我们的制度正在实现某种程度的公平的东西，都是一种进步，应该受到欢迎。这是真的，即使这种进步并没有让我们100%的方式来实现“完全”公平的目标，或者完全符合我们的个人信念，对公平的衡量标准是使用。正在建立的某种公平措施仍将使我们处于比现状更好的地位。应该避免在实际应用中应用公平和道德问题的障碍，无论是深奥的哲学辩论还是技术开销，例如引入更多的超参数。在本文中，我们进一步阐述了我们的论点，这一观点及其重要性。
2018-06-13 cs.AI cs.LG stat.ML
Ethical Adversaries: Towards Mitigating Unfairness with Adversarial Machine Learning
KU Leuven（鲁汶大学）；Université de Namur（那慕尔大学）；TU Berlin（柏林工业大学）
机器学习正被集成到越来越多的关键系统中，对社会产生深远的影响。由于这种广泛的使用及其理论上的考虑，意外行为和不公平的决策过程正受到越来越多的审查。个人和组织都会注意、测试和批评不公平的结果，以追究模型设计者和部署者的责任。我们提供了一个框架，帮助这些群体减轻来自训练数据集的不公平陈述。我们的框架依赖于两个相互操作的对手，以提高公平性。首先，训练一个模型，目标是防止猜测受保护属性的值，同时限制效用损失。第一步是为了公平性而优化模型的参数。其次，该框架利用来自对抗性机器学习的规避攻击来生成将被错误分类的新示例。然后，这些新的示例在第一步中用于重新训练和改进模型。这两个步骤会迭代应用，直到公平性得到显着改善。我们在公平文献中充分研究的数据集上评估了我们的框架-包括COMPAS-在那里它可以超越其他关于人口均等，机会均等和模型效用的方法。我们还说明了我们的研究结果的微妙的困难时，减轻不公平，并强调我们的框架可以帮助模型设计者。
2020-09-01 cs.AI cs.LG stat.ML
Ethical and Explainable AI in Reusable MLOps Pipelines
Washington University of Science and Technology（科学与技术华盛顿大学）；University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）；Karlstad University（卡尔斯塔德大学）；American University of Bahrain（巴林美国大学）
本文提出了一种整合伦理和可解释性AI的MLOps框架，通过自动化公平性控制和可解释性特征，在生产环境中实现公平性与预测效用的平衡。
2026-02-15 cs.AI cs.CY
Operationalizing Fairness: Post-Hoc Threshold Optimization Under Hard Resource Limits
Department of Computer Science and Engineering, DUIET, Dibrugarh University, Assam, India（迪布鲁大学计算机科学与工程系，DUIET，阿萨姆，印度）；Department of Computer Science and Engineering, MIT, Manipur University, 795003, India（曼尼普尔大学计算机科学与工程系，MIT，曼尼普尔大学，印度）
本文提出一种事后阈值优化框架，在硬性资源限制下平衡安全、效率与公平性，通过全局阈值确保合规，并证明关键性质，实验表明资源限制主导伦理优先级，框架在资源受限下保持高风险识别能力。
2026-02-26 cs.AI cs.LG
Fairness Is Not Just Ethical: Performance Trade-Off via Data Correlation Tuning to Mitigate Bias in ML Software
King's College London（伦敦国王学院）；National University of Defense Technology（国防科技大学）；Southern University of Science and Technology（南方科技大学）；The Hong Kong Polytechnic University（香港理工大学）
本文提出Correlation Tuning方法，通过调整数据相关性缓解ML软件中的偏见问题，提升非特权群体的预测性能并减少多个偏见度量。
2025-12-19 cs.AI cs.SE
Explaining how your AI system is fair
AXA GO, AI Research（AXA GO 人工智能研究院）
为了以可持续的方式实现公平的机器学习，选择正确的公平目标是关键。由于公平是一个正义的概念，它有各种各样的定义，有时是相互冲突的，这不是一个微不足道的任务。人工智能（AI）系统最合适的公平定义是道德标准和法律要求的问题，正确的选择取决于特定的用例及其上下文。在这份立场文件中，我们建议使用一个决策树的手段来解释和证明实现的公平性的最终用户。这样的结构首先将支持人工智能从业者将道德原则映射到具体应用的公平定义，从而使选择成为一个简单透明的过程。然而，这种方法也有助于记录决策背后的推理。由于人工智能中公平性主题的普遍复杂性，我们认为为给定用例指定“公平性”是保持人工智能系统信心的最佳方法。在这种情况下，这可以通过与更广泛的受众分享决策过程中表达的理由和原则来实现。
2021-05-03 cs.AI cs.CY cs.LG
Multimodal Approaches to Fair Image Classification: An Ethical Perspective
University of Washington（华盛顿大学）
本论文从伦理视角探讨多模态方法在公平图像分类中的应用，旨在通过结合视觉数据与文本等模态来减轻偏见，提升公平性与准确性，并倡导负责任的AI实践。
2024-12-11 cs.AI cs.CV cs.CY
Ethical Challenges and Evolving Strategies in the Integration of Artificial Intelligence into Clinical Practice
Dartmouth College（达特茅斯学院）；The George Washington University（乔治华盛顿大学）
本文分析AI融入临床实践的五类伦理风险与监管部署缺口，并提出公平算法、透明决策、患者中心隐私保护及多方协作策略。
2024-11-18 cs.AI cs.CY
Can everyday AI be ethical. Fairness of Machine Learning Algorithms
Université de Toulouse INSA（图卢兹国立应用科学学院）；Institut de Mathématiques UMR CNRS 5219（法国国家科学研究中心数学研究所（UMR 5219））；Université Toulouse Capitole（图卢兹第一大学）；Institut de Recherche en Droit Européen, International et Comparé (IRDEIC)（欧洲、国际与比较法研究所（IRDEIC））；Institut Universitaire de France (IUF)（法国大学研究院（IUF））；Ecole Normale Supérieure de Lyon（里昂高等师范学院）；UMPA UMR CNRS 5569（法国国家科学研究中心纯数学与应用数学实验室（UMR 5569））；Université de Toulouse Paul Sabatier（图卢兹第三大学）
结合大数据和机器学习算法，自动决策工具的力量带来的希望与恐惧一样多。许多最近颁布的欧洲立法（GDPR）和法国法律试图规范这些工具的使用。抛开数据保密性和竞争障碍等公认的问题不谈，我们重点关注歧视的风险、透明度问题和算法决策的质量。面对学习算法的复杂性和不透明性，法律文本的详细视角揭示了需要重要的技术中断来检测或减少歧视风险，并解决获得自动决策解释的权利。由于开发人员和所有用户（公民、诉讼当事人、客户）的信任至关重要，因此利用个人数据的算法必须在严格的道德框架内部署。最后，为了满足这一需求，我们列出了一些控制方法：机构控制，道德章程，外部审计附加到标签的问题。
2018-10-03 cs.AI stat.OT
Operationalising Rawlsian Ethics for Fairness in Norm-Learning Agents
University of Bristol（布里斯托大学）
提出RAWL-E方法，将罗尔斯伦理学的最大化最小值原则应用于规范学习智能体决策，通过平衡社会福利与个人目标促进伦理规范，实验证明其提升了社会公平与鲁棒性。
2024-12-19 cs.AI cs.LG cs.MA
Globalizing Fairness Attributes in Machine Learning: A Case Study on Health in Africa
Google Research（谷歌研究院）；Duke University（杜克大学）；Stanford University（斯坦福大学）
本文以非洲为案例，提出在机器学习医疗应用中应考虑的公平属性，并分析其在不同医疗模式中的作用，旨在推动全球健康公平性研究。
2023-04-05 cs.AI cs.CY cs.LG
Building Trustworthy Multimodal AI: A Review of Fairness, Transparency, and Ethics in Vision-Language Tasks
University of Science and Culture（科学与文化大学）
本综述系统分析2017至2024年视觉-语言任务，提出可信AI需在统一框架内整合公平性、透明性与伦理，并总结了注意力图、梯度法等可解释技术及偏差缓解策略。
2025-05-08 cs.AI cs.CR
A Fair and Ethical Healthcare Artificial Intelligence System for Monitoring Driver Behavior and Preventing Road Accidents
American University of the Middle East（美国中东大学）；University of Toronto（多伦多大学）
本文提出了一种新的方法，以防止交通事故和监测驾驶员的行为，使用医疗保健人工智能系统，结合公平和道德。危险的医疗案件和驾驶员的异常行为被检测到。公平算法是为了改善决策和解决道德问题，如隐私问题，并考虑在医疗保健和驾驶人工智能领域出现的挑战。医疗保健专业人员将被警告任何不寻常的活动，并在必要时提供驾驶员的位置，以便使医疗保健专业人员能够立即帮助不稳定的驾驶员。因此，使用医疗保健AI系统可以预测并因此预防事故，并且可以基于与ER系统交互的车辆内的内置AI系统来挽救生命。
2021-11-08 cs.AI cs.CY cs.HC
Fairness and Bias in Robot Learning
University of Freiburg（弗莱堡大学）；University of Mannheim（曼海姆大学）；University Medical Center Freiburg（弗莱堡大学医学中心）
本文首次从技术、伦理和法律跨学科视角综述机器人学习中的公平性问题，提出偏见来源与歧视类型的分类法，并梳理公平性定义与公平学习方法，为该领域发展奠定基础。
2023-10-29 cs.AI cs.CV cs.CY
An Analysis of the New EU AI Act and A Proposed Standardization Framework for Machine Learning Fairness
University of Washington（华盛顿大学）；University of Nicosia（尼科西亚大学）
针对欧盟新AI法案存在公平性量化指标缺失、术语歧义等问题，研究提出针对性监管优化方案及AI公平性透明度公共评估框架，主张标准化行业最佳实践，平衡监管与创新投资，并以ASR和语音合成器为例验证。
2025-09-30 cs.AI cs.CY
Ethical and Technical Limits of Deepfake Speech Datasets
Brno University of Technology（布尔诺理工大学）
通过审计39个深度伪造语音数据集，发现公平性评估因缺乏人口统计元数据而不可行，且数据集间真实语音源语料库重叠严重，影响跨数据集评估的可靠性。
2026-06-09 cs.AI cs.CR cs.LG
Fairness in machine learning: against false positive rate equality as a measure of fairness
NYU（纽约大学）
该研究针对机器学习中校准性与假阳性率相等的公平性权衡假设，从伦理学角度构建分析框架，论证假阳性率相等并非合理的公平性衡量标准，为算法公平性评估的指标选择提供伦理依据。
2020-07-06 cs.AI cs.CY cs.LG
Measuring Non-Expert Comprehension of Machine Learning Fairness Metrics
University of Maryland（马里兰大学）；ICSI（国际计算机科学研究所）
机器学习中的偏见已经在几个领域表现出了不公正，例如医学，招聘和刑事司法。作为回应，计算机科学家们开发了无数的公平定义，以纠正现场算法中的这种偏见。虽然有些定义是基于既定的法律和道德规范，但其他定义在很大程度上是数学的。目前还不清楚公众是否同意这些公平的定义，也许更重要的是，他们是否理解这些定义。我们采取初步措施，通过解决这个问题来弥合ML研究人员和公众之间的差距：外行观众是否理解ML公平的基本定义？我们开发了一个度量标准来衡量对三个定义的理解-人口均等，平等机会和均等几率。我们使用在线调查来评估这个指标，并调查理解和情感，人口统计学和定义本身之间的关系。
2020-07-02 cs.AI cs.CY cs.LG
On the Computational Complexity of Ethics: Moral Tractability for Minds and Machines
Lund University（隆德大学）
为什么道德哲学家、道德心理学家和机器伦理学家要关心计算复杂性？关于人工智能（AI）是否可以或应该被用来解决伦理领域的问题的争论主要是由人工智能在人类能力方面可以或不能做什么来驱动的。在本文中，我们从另一端解决这个问题，探索什么样的道德机器是可能的，基于什么计算系统可以或不能做。为此，我们通过计算复杂性的视角来分析规范伦理学。首先，我们介绍了计算复杂性为初学者的读者，并讨论如何复杂的伦理问题可以在马尔的三个层次的分析框架。然后，我们研究了一系列基于结果主义，义务论和美德伦理学的伦理问题，目的是阐明与问题本身相关的复杂性（例如，由于组合学、不确定性、战略动态），所采用的计算方法（例如，概率、逻辑、学习），以及可用资源（例如，时间、知识、学习）。研究结果表明，规范性框架提出的大多数问题导致了分析的每个类别的可处理性问题。我们的调查还提供了一些见解规范伦理学的计算性质，包括规则和结果为基础的道德策略之间的差异，以及实施方差方面的道德资源。然后，我们讨论了后果的复杂性结果的道德机器的前景凭借最优性和效率之间的权衡。最后，我们阐明了如何计算复杂性可以用来通知哲学和认知心理学研究人类道德的推进道德可追溯性命题（MTT）。
2023-02-08 cs.AI cs.CC
A Maximal Correlation Approach to Imposing Fairness in Machine Learning
MIT（麻省理工学院）；MIT-IBM Watson AI Lab, IBM Research（麻省理工-IBM 沃森人工智能实验室，IBM研究院）
随着机器学习算法越来越受欢迎并在许多行业中多样化，有关其公平性的道德和法律问题变得越来越重要。我们探讨的问题，算法公平性，采取信息理论的观点。最大相关性框架被引入表示公平性约束，并被证明能够被用来导出正则化，执行独立性和分离为基础的公平性标准，这允许优化算法的离散和连续变量的计算效率比现有的算法。我们表明，这些算法提供了平滑的性能-公平性权衡曲线，并在离散数据集（COMPAS，成人）和连续数据集（社区和犯罪）上与最先进的方法竞争。
2020-12-30 cs.AI cs.IT cs.LG
Improving Fair Predictions Using Variational Inference In Causal Models
University of Amsterdam（阿姆斯特丹大学）
随着机器学习对人们生活的影响越来越大，算法公平性的重要性也越来越大。最近的公平性度量的工作表明，需要在公平性约束的因果推理。在这项工作中，一个实用的方法命名为公平贸易提出了灵活的预测模型，集成敏感的因果路径的公平性约束。该方法使用最新的进展，变分推理，以占未观察到的混杂因素。此外，提出了一种方法大纲，它使用的因果机制估计审计黑盒模型。在检测非法社会福利的背景下，对模拟数据和真实数据集进行了实验。这项研究旨在为机器学习技术做出贡献，这些技术尊重我们的道德和法律边界。
2020-08-25 cs.AI cs.LG stat.ML
What Is the Point of Equality in Machine Learning Fairness? Beyond Equality of Opportunity
Seoul National University（首尔国立大学）
本文探讨机器学习公平性中平等的意义，提出超越机会平等的平等主义框架，以解决结构性不平等和代表性伤害问题。
2025-09-01 cs.AI cs.CY cs.LG
Rethinking Fairness: An Interdisciplinary Survey of Critiques of Hegemonic ML Fairness Approaches
Purdue University（普渡大学）
这篇调查文章评估和比较了当前对机器学习（ML）的公平性增强技术干预的现有批评，这些批评来自一系列非计算学科，包括哲学，女权主义研究，批判性种族和民族研究，法律研究，人类学和科学技术研究。它弥合了认识上的分歧，以提供对霸权计算方法的可能性和局限性的跨学科理解，以实现ML公平，为社会最边缘化的人产生公正的结果。本文根据九个主要的批评主题进行组织，其中这些不同的领域相互交叉：1）人工智能公平研究中的“公平”如何定义; 2）人工智能系统如何解决问题; 3）抽象对人工智能工具功能的影响及其导致技术解决方案的倾向; 4）种族分类如何在人工智能公平研究中运作; 5）使用人工智能公平措施来避免监管和进行道德清洗; 6）在人工智能公平考虑方面缺乏参与式设计和民主审议; 7）巩固“偏见”、非共识和缺乏透明度的数据汇集做法; 8）将边缘化群体掠夺性地纳入人工智能系统; 9）缺乏对人工智能长期社会和道德结果的参与。从这些批评中，文章最后设想了未来ML公平研究的方向，这些方向积极地破坏了社会中根深蒂固的权力动态和结构性不公正。
2022-05-06 cs.AI cs.CY cs.LG
Fairness and Sequential Decision Making: Limits, Lessons, and Opportunities
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；University of California, Berkeley（加州大学伯克利分校）；Microsoft Research（微软研究院）
随着自动决策和决策辅助系统在日常生活中变得越来越普遍，关于预防或减轻这些系统所做决策产生的潜在危害的研究也越来越多。然而，不同的研究团体已经独立地对这些危害进行了概念化，设想了潜在的应用，并提出了干预措施。其结果是一个有点破碎的文学景观一般集中在确保决策算法“做正确的事情”。在本文中，我们比较和讨论的工作在两个主要子集的文献：算法公平性，主要集中在预测系统，道德决策，主要集中在顺序决策和规划。我们探讨这些设置如何表达其规范性的问题，这些不同的设置不同的技术的可行性，以及如何从每个设置的想法可能有其他的效用。
2023-01-13 cs.AI cs.CY cs.LG
Improving Fairness in LLMs Through Testing-Time Adversaries
Escola Politécnica, Universidade de São Paulo（圣保罗大学理工大学）
针对大语言模型存在的偏见问题，提出一种仅依赖测试阶段前向传播的公平性提升方法，通过句子变体对比检测偏见，在Llama系列模型上实现最高27个百分点的公平性提升，无需训练或参数调整。
2025-05-17 cs.AI cs.CL
Fair lending needs explainable models for responsible recommendation
Capital One（第一资本金融公司）
金融服务业在信贷决策中的合规性和道德考虑方面面临着独特的可解释性和公平性挑战。这些挑战使模型机器学习和人工智能方法在业务决策过程中的使用复杂化。
2018-09-12 cs.AI cs.CY cs.LG
Lost in Translation: How Universal Ethical Values Fail to Translate Across Global Contexts
该研究通过多国专家访谈发现AI伦理框架存在翻译鸿沟，提出多元治理路径以适配全球不同语境的AI伦理需求。
2026-08-24 cs.AI cs.HC
A Conceptual Framework for Ethical Evaluation of Machine Learning Systems
Carnegie Mellon University（卡内基梅隆大学）；Northwestern University（西北大学）；Stanford University（斯坦福大学）
本文提出一个效用框架，将机器学习系统伦理评估中的关键权衡特征化为信息获取与潜在伦理危害的平衡，并借鉴临床试验和汽车碰撞测试等领域的实践，强调开发团队需系统管理评估中的伦理复杂性。
2024-08-05 cs.AI cs.CY cs.LG
Alternative Fairness and Accuracy Optimization in Criminal Justice
Harvard University（哈佛大学）；Massachusetts Institute of Technology（麻省理工学院）
本文提出在刑事司法中通过优化误差损失和控制假阴性率差异来提升公平与准确性的方法，并提供部署框架以确保决策系统的合法性。
2025-12-18 cs.AI cs.CY cs.LG
A Survey on Group Fairness in Federated Learning: Challenges, Taxonomy of Solutions and Directions for Future Research
University of Coimbra（科英布拉大学）；Virginia Commonwealth University（弗吉尼亚联邦大学）
本文综述了Federated Learning中的群体公平性问题，分析了关键挑战，提出了识别与基准测试方法，构建了基于数据划分、位置和策略的分类法，并探讨了数据集、应用及伦理法律影响，指出了未来研究方向。
2025-09-12 cs.AI cs.CY cs.LG
Causal Fairness under Unobserved Confounding: A Neural Sensitivity Framework
Munich Center for Machine Learning（慕尼黑机器学习中心）；LMU Munich（慕尼黑大学）
本文首次研究未观测混杂下的因果公平性问题，提出神经敏感性框架，推导公平性度量界限并提供最坏情况保证，通过实验和真实案例验证其有效性。
2024-10-22 cs.AI cs.CY cs.LG
Search-Based Fairness Testing: An Overview
Universiti Teknologi PETRONAS（PETRONAS科技大学）；Universiti Brunei Darussalam（文莱达鲁萨兰国大学）；Western University（西安大略大学）
本文综述了基于搜索的公平性测试研究，回顾了其在AI系统偏见检测中的应用进展，并指出未来应利用成熟的搜索测试方法推进该领域。
2023-11-10 cs.AI
Diversity and Inclusion Metrics in Subset Selection
Google Research（谷歌研究院）；University of Washington（华盛顿大学）
公平的伦理概念最近被应用于机器学习（ML）设置中，以描述广泛的约束和目标。在考虑伦理概念与子集选择问题的相关性时，多样性和包容性的概念也是适用的，以便创造出能够说明社会权力和获取差异的产出。我们介绍这些概念的基础上，可以一起应用，单独，并在串联与额外的公平性约束的指标。人类受试者实验的结果支持所提出的标准。社会选择方法可以另外利用聚合和选择优选的集合，我们详细介绍了如何应用这些方法。
2020-02-09 cs.AI
Mathematical Modelling of Ethical AI Use in Higher Education: A Coordination Game Framework for Future-Facing Learning
School of Computing, Engineering and Digital Technologies, Teesside University, United Kingdom（计算工程与数字技术学院，泰赛大学，英国）
本文通过协调博弈论框架，研究学生群体中负责任或机会主义AI使用规范的形成机制，并揭示评估激励如何触发行为转变。
2026-04-23 cs.AI cs.CC cs.CY
Advancing AI with Integrity: Ethical Challenges and Solutions in Neural Machine Translation
Handong（韩东大学）
该研究聚焦神经机器翻译的伦理挑战，通过实证研究、文献综述等方法考察开发各阶段伦理问题，明确人机责任分配与人类监督的重要性，强调开发者需承担相应社会责任。
2024-04-01 cs.AI cs.CL
MEDFAIR: Benchmarking Fairness for Medical Imaging
University of Edinburgh（爱丁堡大学）；Samsung AI Centre, Cambridge（三星剑桥人工智能中心）
大量的工作表明，基于机器学习的医疗诊断系统可能对某些人群有偏见。这促使越来越多的偏见缓解算法，旨在解决机器学习中的公平性问题。然而，由于两个原因，很难比较它们在医学成像中的有效性。首先，在评估公平性的标准上几乎没有共识。其次，现有的偏差减轻算法是在不同的设置下开发的，例如，数据集、模型选择策略、主干和公平性指标，使得基于现有结果的直接比较和评估成为不可能。在这项工作中，我们介绍MEDFAIR，一个框架，以基准的公平性机器学习模型的医学成像。MEDFAIR涵盖了来自不同类别的11种算法，来自不同成像模式的9个数据集和3个模型选择标准。通过大量的实验，我们发现，模型选择标准的研究不足的问题可以有一个显着的影响公平的结果，而相比之下，国家的最先进的偏见缓解算法并没有显着改善公平的结果超过经验风险最小化（ERM）在分布和分布设置。我们从多个角度对公平性进行评估，并针对不同的医疗应用场景，需要不同的伦理原则提出建议。我们的框架为深度学习中未来偏差缓解算法的开发和评估提供了一个可重复且易于使用的入口点。代码可在https://github.com/ys-zong/MEDFAIR上获得。
2023-02-17 cs.AI cs.LG eess.IV
