Promises and Challenges of Causality for Ethical Machine Learning
SonyAI（索尼人工智能）
近年来，人们对设计公平决策系统的因果推理越来越感兴趣，因为它与法律框架的兼容性，对人类利益相关者的可解释性，以及对观测数据中固有的虚假相关性的鲁棒性等因素。然而，最近对因果公平的关注，一直伴随着极大的怀疑，由于在文献中应用当前因果公平方法的实践和认识论挑战。受计量经济学、社会科学和生物医学领域长期以来对因果关系的实证研究的启发，本文提出了在“潜在结果框架”下适当应用因果公平的条件。“我们强调了因果推理的关键方面，这些方面在因果公平文献中经常被忽视。特别是，我们讨论的重要性，指定的性质和时间的社会类别，如种族或性别的干预。确切地说，而不是假设一个不可变的属性的干预，我们提出了一个重点转移到他们的看法，并讨论了公平性评价的影响。我们认为，这种概念化的干预是关键，在评估因果假设的有效性和进行合理的因果分析，包括避免治疗后的偏见。随后，我们说明了因果关系如何解决现有的公平性指标的局限性，包括那些依赖于统计相关性。具体来说，我们引入了常见的统计公平概念的因果变量，我们做了一个新的观察，在因果框架下，不同的公平概念之间没有根本的分歧。最后，我们进行了广泛的实验，我们证明了我们的方法来评估和减轻不公平，特别是当治疗后的变量存在。
2022-10-26 cs.CY cs.LG
Towards Integrating Fairness Transparently in Industrial Applications
AT&T Labs - Research（AT&T实验室-研究部）
近年来，许多与机器学习（ML）偏见相关的失败导致了对公司如何在其ML生命周期中纳入透明度和问责制方面的审查。公司有责任监控ML流程中的偏见，并减轻检测到的任何偏见，确保业务产品的完整性，维护客户忠诚度，并保护品牌形象。行业ML项目所面临的挑战可以大致分为原则性文档、人为监督以及对实现信息重用和提高成本效率的机制的需求。我们强调了具体的障碍，并为ML从业者和组织主题专家提出了基于每个类别的概念解决方案。我们的系统方法通过在ML生命周期的各个阶段将机械化和人在环组件集成到偏差检测、缓解和项目文档中来应对这些挑战。为了激励我们的系统的实施- SIFT（系统整合公平性）-我们提出了它的结构原语与一个示例现实世界的用例，它可以用来识别潜在的偏见，并确定适当的缓解策略，在参与的方式。
2021-02-13 cs.AI cs.CY cs.LG
Explaining how your AI system is fair
AXA GO, AI Research（AXA GO 人工智能研究院）
为了以可持续的方式实现公平的机器学习，选择正确的公平目标是关键。由于公平是一个正义的概念，它有各种各样的定义，有时是相互冲突的，这不是一个微不足道的任务。人工智能（AI）系统最合适的公平定义是道德标准和法律要求的问题，正确的选择取决于特定的用例及其上下文。在这份立场文件中，我们建议使用一个决策树的手段来解释和证明实现的公平性的最终用户。这样的结构首先将支持人工智能从业者将道德原则映射到具体应用的公平定义，从而使选择成为一个简单透明的过程。然而，这种方法也有助于记录决策背后的推理。由于人工智能中公平性主题的普遍复杂性，我们认为为给定用例指定“公平性”是保持人工智能系统信心的最佳方法。在这种情况下，这可以通过与更广泛的受众分享决策过程中表达的理由和原则来实现。
2021-05-03 cs.AI cs.CY cs.LG
Operationalizing Fairness: Post-Hoc Threshold Optimization Under Hard Resource Limits
Department of Computer Science and Engineering, DUIET, Dibrugarh University, Assam, India（迪布鲁大学计算机科学与工程系，DUIET，阿萨姆，印度）；Department of Computer Science and Engineering, MIT, Manipur University, 795003, India（曼尼普尔大学计算机科学与工程系，MIT，曼尼普尔大学，印度）
本文提出一种事后阈值优化框架，在硬性资源限制下平衡安全、效率与公平性，通过全局阈值确保合规，并证明关键性质，实验表明资源限制主导伦理优先级，框架在资源受限下保持高风险识别能力。
2026-02-26 cs.AI cs.LG
Multimodal Approaches to Fair Image Classification: An Ethical Perspective
University of Washington（华盛顿大学）
本论文从伦理视角探讨多模态方法在公平图像分类中的应用，旨在通过结合视觉数据与文本等模态来减轻偏见，提升公平性与准确性，并倡导负责任的AI实践。
2024-12-11 cs.AI cs.CV cs.CY
Synthetic Data in AI: Challenges, Applications, and Ethical Implications
Huazhong University of Science and Technology（华中科技大学）
本报告探讨了人工智能中合成数据的生成方法、跨领域应用及其面临的挑战与潜在偏见，并强调了在AI开发中确保公平、减轻偏见和维护伦理标准的迫切需求。
2024-01-03 cs.AI cs.CY cs.LG
What About Applied Fairness?
Booz Allen Hamilton（博思艾伦汉密尔顿）；University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）
机器学习从业者通常对他们产品的道德方面持矛盾态度。我们认为，任何能使我们从目前的状态转变为我们的制度正在实现某种程度的公平的东西，都是一种进步，应该受到欢迎。这是真的，即使这种进步并没有让我们100%的方式来实现“完全”公平的目标，或者完全符合我们的个人信念，对公平的衡量标准是使用。正在建立的某种公平措施仍将使我们处于比现状更好的地位。应该避免在实际应用中应用公平和道德问题的障碍，无论是深奥的哲学辩论还是技术开销，例如引入更多的超参数。在本文中，我们进一步阐述了我们的论点，这一观点及其重要性。
2018-06-13 cs.AI cs.LG stat.ML
On Consequentialism and Fairness
Stanford University（斯坦福大学）；University of Washington（华盛顿大学）；Allen Institute for AI（艾伦人工智能研究所）
最近关于机器学习公平性的研究主要强调如何定义、量化和鼓励“公平”的结果。然而，对这些努力所依据的道德基础却关注较少。应该考虑的伦理观点之一是结果主义，粗略地说，结果才是最重要的。尽管结果主义并非没有困难，尽管它不一定提供一种选择行动的易处理的方法（因为不确定性、主观性和聚合的综合问题），但它仍然提供了一个强大的基础，可以用来批评现有的关于机器学习公平性的文献。此外，它还突出了一些涉及的权衡，包括谁重要的问题，使用政策的利弊，以及遥远未来的相对价值。在本文中，我们提供了一个结果主义的公平性的共同定义内的机器学习的批评，以及一个机器学习的结果主义的观点。最后，我们更广泛地讨论了学习和随机化的问题，这对自动化决策系统的道德有重要的影响。
2020-05-11 cs.AI cs.CY cs.LG
Operationalising Rawlsian Ethics for Fairness in Norm-Learning Agents
University of Bristol（布里斯托大学）
提出RAWL-E方法，将罗尔斯伦理学的最大化最小值原则应用于规范学习智能体决策，通过平衡社会福利与个人目标促进伦理规范，实验证明其提升了社会公平与鲁棒性。
2024-12-19 cs.AI cs.LG cs.MA
Ethical Adversaries: Towards Mitigating Unfairness with Adversarial Machine Learning
KU Leuven（鲁汶大学）；Université de Namur（那慕尔大学）；TU Berlin（柏林工业大学）
机器学习正被集成到越来越多的关键系统中，对社会产生深远的影响。由于这种广泛的使用及其理论上的考虑，意外行为和不公平的决策过程正受到越来越多的审查。个人和组织都会注意、测试和批评不公平的结果，以追究模型设计者和部署者的责任。我们提供了一个框架，帮助这些群体减轻来自训练数据集的不公平陈述。我们的框架依赖于两个相互操作的对手，以提高公平性。首先，训练一个模型，目标是防止猜测受保护属性的值，同时限制效用损失。第一步是为了公平性而优化模型的参数。其次，该框架利用来自对抗性机器学习的规避攻击来生成将被错误分类的新示例。然后，这些新的示例在第一步中用于重新训练和改进模型。这两个步骤会迭代应用，直到公平性得到显着改善。我们在公平文献中充分研究的数据集上评估了我们的框架-包括COMPAS-在那里它可以超越其他关于人口均等，机会均等和模型效用的方法。我们还说明了我们的研究结果的微妙的困难时，减轻不公平，并强调我们的框架可以帮助模型设计者。
2020-09-01 cs.AI cs.LG stat.ML
Measuring Non-Expert Comprehension of Machine Learning Fairness Metrics
University of Maryland（马里兰大学）；ICSI（国际计算机科学研究所）
机器学习中的偏见已经在几个领域表现出了不公正，例如医学，招聘和刑事司法。作为回应，计算机科学家们开发了无数的公平定义，以纠正现场算法中的这种偏见。虽然有些定义是基于既定的法律和道德规范，但其他定义在很大程度上是数学的。目前还不清楚公众是否同意这些公平的定义，也许更重要的是，他们是否理解这些定义。我们采取初步措施，通过解决这个问题来弥合ML研究人员和公众之间的差距：外行观众是否理解ML公平的基本定义？我们开发了一个度量标准来衡量对三个定义的理解-人口均等，平等机会和均等几率。我们使用在线调查来评估这个指标，并调查理解和情感，人口统计学和定义本身之间的关系。
2020-07-02 cs.AI cs.CY cs.LG
A Fair and Ethical Healthcare Artificial Intelligence System for Monitoring Driver Behavior and Preventing Road Accidents
American University of the Middle East（美国中东大学）；University of Toronto（多伦多大学）
本文提出了一种新的方法，以防止交通事故和监测驾驶员的行为，使用医疗保健人工智能系统，结合公平和道德。危险的医疗案件和驾驶员的异常行为被检测到。公平算法是为了改善决策和解决道德问题，如隐私问题，并考虑在医疗保健和驾驶人工智能领域出现的挑战。医疗保健专业人员将被警告任何不寻常的活动，并在必要时提供驾驶员的位置，以便使医疗保健专业人员能够立即帮助不稳定的驾驶员。因此，使用医疗保健AI系统可以预测并因此预防事故，并且可以基于与ER系统交互的车辆内的内置AI系统来挽救生命。
2021-11-08 cs.AI cs.CY cs.HC
What Is the Point of Equality in Machine Learning Fairness? Beyond Equality of Opportunity
Seoul National University（首尔国立大学）
本文探讨机器学习公平性中平等的意义，提出超越机会平等的平等主义框架，以解决结构性不平等和代表性伤害问题。
2025-09-01 cs.AI cs.CY cs.LG
Rethinking Fairness: An Interdisciplinary Survey of Critiques of Hegemonic ML Fairness Approaches
Purdue University（普渡大学）
这篇调查文章评估和比较了当前对机器学习（ML）的公平性增强技术干预的现有批评，这些批评来自一系列非计算学科，包括哲学，女权主义研究，批判性种族和民族研究，法律研究，人类学和科学技术研究。它弥合了认识上的分歧，以提供对霸权计算方法的可能性和局限性的跨学科理解，以实现ML公平，为社会最边缘化的人产生公正的结果。本文根据九个主要的批评主题进行组织，其中这些不同的领域相互交叉：1）人工智能公平研究中的“公平”如何定义; 2）人工智能系统如何解决问题; 3）抽象对人工智能工具功能的影响及其导致技术解决方案的倾向; 4）种族分类如何在人工智能公平研究中运作; 5）使用人工智能公平措施来避免监管和进行道德清洗; 6）在人工智能公平考虑方面缺乏参与式设计和民主审议; 7）巩固“偏见”、非共识和缺乏透明度的数据汇集做法; 8）将边缘化群体掠夺性地纳入人工智能系统; 9）缺乏对人工智能长期社会和道德结果的参与。从这些批评中，文章最后设想了未来ML公平研究的方向，这些方向积极地破坏了社会中根深蒂固的权力动态和结构性不公正。
2022-05-06 cs.AI cs.CY cs.LG
Fairness and Sequential Decision Making: Limits, Lessons, and Opportunities
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；University of California, Berkeley（加州大学伯克利分校）；Microsoft Research（微软研究院）
随着自动决策和决策辅助系统在日常生活中变得越来越普遍，关于预防或减轻这些系统所做决策产生的潜在危害的研究也越来越多。然而，不同的研究团体已经独立地对这些危害进行了概念化，设想了潜在的应用，并提出了干预措施。其结果是一个有点破碎的文学景观一般集中在确保决策算法“做正确的事情”。在本文中，我们比较和讨论的工作在两个主要子集的文献：算法公平性，主要集中在预测系统，道德决策，主要集中在顺序决策和规划。我们探讨这些设置如何表达其规范性的问题，这些不同的设置不同的技术的可行性，以及如何从每个设置的想法可能有其他的效用。
2023-01-13 cs.AI cs.CY cs.LG
Multi-disciplinary fairness considerations in machine learning for clinical trials
University of Cambridge（剑桥大学）；MRC Biostatistics Unit, University of Cambridge（剑桥大学医学研究委员会生物统计组）；Sapienza University of Rome（罗马第一大学）；The Alan Turing Institute（阿兰·图灵研究所）；Technical University of Munich（慕尼黑工业大学）；Helmholtz Munich（亥姆霍兹慕尼黑中心）
虽然近年来人们对应用机器学习来改善医疗保健的兴趣大幅增长，但仍有许多障碍阻碍了在医疗实践中的部署。一个值得关注的问题是，这有可能加剧社会中根深蒂固的偏见和现有的健康差距。机器学习中的公平领域试图解决这些公平问题;然而，适当的方法是依赖于上下文的，需要特定领域的考虑。我们专注于临床试验，即，对人类进行的研究，以评估医学治疗。临床试验是机器学习在医疗保健领域的一个相对未被开发的应用，部分原因是复杂的伦理、法律和监管要求以及高昂的成本。我们的目标是提供一个多学科的评估，如何公平的机器学习适合临床试验研究和实践的背景。我们首先回顾了当前临床试验的伦理考虑和指南，并研究了它们与机器学习中公平性的常见定义之间的关系。我们研究了临床试验中不公平的潜在来源，提供了具体的例子，并讨论了机器学习在减轻潜在偏见或在不小心应用时加剧偏见方面可能发挥的作用。特别关注的是适应性临床试验，这可能会采用机器学习。最后，我们强调需要进一步调查和发展的概念，并强调可能与临床试验设计相关的公平性新方法。
2022-05-18 cs.CY cs.LG
Ethical and Technical Limits of Deepfake Speech Datasets
Brno University of Technology（布尔诺理工大学）
通过审计39个深度伪造语音数据集，发现公平性评估因缺乏人口统计元数据而不可行，且数据集间真实语音源语料库重叠严重，影响跨数据集评估的可靠性。
2026-06-09 cs.AI cs.CR cs.LG
Building Ethically Bounded AI
IBM Research（IBM研究院）；University of Padova（帕多瓦大学）
人工智能智能体在可能出现意外情况的场景中部署得越多，它们就越需要灵活、适应性和创造性，以实现我们赋予它们的目标。因此，一定程度的自由选择实现目标的最佳路径是使人工智能足够强大和灵活的内在因素。然而，与此同时，人工智能在我们生活中的普遍部署，无论人工智能是自主的还是与人类合作的，都提出了一些伦理挑战。人工智能智能体应该意识到并遵循适当的道德原则，因此应该表现出公平或其他美德等属性。这些伦理原则应该定义人工智能的自由和创造力的界限。但是，理解如何在人工智能智能体中指定和推理伦理边界，以及如何将它们与主观偏好和目标规范适当结合，仍然是一个挑战。一些最初的尝试要么采用基于数据驱动示例的方法，要么采用基于符号规则的方法。我们设想了一种模块化方法，任何人工智能技术都可以用于决策或决策支持系统中的任何这些基本成分，并与上下文方法相结合，以定义它们的组合和相对权重。在一个人类和人工智能系统都不是孤立工作的世界里，而是紧密相连的，例如，物联网，我们还设想了一种构建道德约束人工智能的组合方法，其中每个组件的道德属性可以被有效地利用，以获得整个系统的道德属性。在本文中，我们定义并激发了道德约束AI的概念，我们描述了两个具体的例子，并概述了一些突出的挑战。
2018-12-10 cs.AI cs.CY cs.LG
A Survey on Group Fairness in Federated Learning: Challenges, Taxonomy of Solutions and Directions for Future Research
University of Coimbra（科英布拉大学）；Virginia Commonwealth University（弗吉尼亚联邦大学）
本文综述了Federated Learning中的群体公平性问题，分析了关键挑战，提出了识别与基准测试方法，构建了基于数据划分、位置和策略的分类法，并探讨了数据集、应用及伦理法律影响，指出了未来研究方向。
2025-09-12 cs.AI cs.CY cs.LG
Privacy and Fairness in Federated Learning: on the Perspective of Trade-off
University of Technology Sydney（悉尼科技大学）；City University of Macau（澳门城市大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
本文综述了联邦学习中隐私与公平的相互作用，分析了FL环境下的独特挑战与解决方案，并揭示了二者相互竞争的权衡关系，为公平与隐私联邦学习指明了新研究方向。
2023-06-25 cs.AI cs.CR cs.CY
A Conceptual Framework for Ethical Evaluation of Machine Learning Systems
Carnegie Mellon University（卡内基梅隆大学）；Northwestern University（西北大学）；Stanford University（斯坦福大学）
本文提出一个效用框架，将机器学习系统伦理评估中的关键权衡特征化为信息获取与潜在伦理危害的平衡，并借鉴临床试验和汽车碰撞测试等领域的实践，强调开发团队需系统管理评估中的伦理复杂性。
2024-08-05 cs.AI cs.CY cs.LG
Software Engineering for Fairness: A Case Study with Hyperparameter Optimization
North Carolina State University（北卡罗来纳州立大学）
我们主张，这是软件工程师的道德义务，努力减少软件歧视。本文讨论了如何做到这一点。这是一个重要的话题，因为机器学习软件越来越多地用于做出影响人们生活的决策。潜在地，该软件的应用将导致更公平的决策，因为（与人类不同）机器学习软件没有偏见。然而，最近的结果表明，许多数据采掘软件包中的软件表现出“群体歧视”;即，它们的决策受到“受保护属性”的不适当影响（例如，种族、性别、年龄等）。在验证机器学习模型的公平性（通过识别这种软件歧视何时存在）方面，已经有了很多先前的工作。但在发现之后，会有缓解。有道德的软件工程师可以采取哪些措施来减少他们所生产的软件中的歧视？本文表明，在超参数优化过程中将\textit{fairness}作为目标可以（a）保留从数据挖掘机学习的模型的预测能力，同时（b）生成更公平的结果。据我们所知，这是超参数优化作为软件工程师生成更公平软件的工具的首次应用。
2019-10-30 cs.LG cs.SE
Interventions over Predictions: Reframing the Ethical Debate for Actuarial Risk Assessment
MIT Media Lab（麻省理工学院媒体实验室）；Harvard University（哈佛大学）
精算风险评估可能会被不适当地视为一种中立的方式，以抵消隐性偏见，并提高刑事司法系统从审前释放到判刑、假释和缓刑等几乎每一个环节所作决定的公平性。近来，这些评估受到越来越多的审查，因为批评者声称，这些评估所依据的统计技术可能会重现数据中反映的现有歧视模式和历史偏见。这场辩论的大部分内容都围绕着公平和预测准确性的相互竞争的概念，基于对变量的争议性使用，这些变量作为法律保护不受歧视的特征的“代理人”，如种族和性别。我们认为，在风险评估中使用回归的核心伦理争论不仅仅是偏见或准确性。相反，这是一个目的。如果机器学习仅仅用于预测个人未来的犯罪，那么就很难打破由刑事司法系统本身的医源性影响驱动的刑事定罪循环。我们认为，机器学习不应用于预测，而是用于表面协变量，这些协变量被输入因果模型，以理解犯罪的社会、结构和心理驱动因素。我们提出了一种替代应用的机器学习和因果推理远离预测风险分数的风险缓解。
2018-07-14 cs.CY cs.LG stat.AP
Algorithmic Fairness: A Tolerance Perspective
University of New South Wales（新南威尔士大学）；La Trobe University（拉筹伯大学）；University of Technology Sydney（悉尼科技大学）
该综述从容忍度视角切入算法公平性研究，提出基于容忍度的全新分类体系，覆盖多行业研究现状，梳理新兴挑战并给出未来研究与政策方向，助力构建更公平的算法系统。
2024-04-26 cs.AI cs.CY cs.IR
Fairness-aware Outlier Ensemble
Zhejiang University（浙江大学）；Pennsylvania State University（宾夕法尼亚州立大学）；University at Buffalo（布法罗大学）
离群值集成方法在发现与大多数数据显著不同的实例方面表现出出色的性能。然而，如果没有公平意识，它们在道德场景中的适用性，如欺诈检测和司法判决系统，可能会降低。在本文中，我们提出了通过一个公平意识的集成框架，以减少偏差的离群集成结果。由于离群点检测任务中缺乏地面真值，关键的挑战是如何在提高公平性的同时减轻检测性能的下降。为了解决这一挑战，我们定义了一个距离测量的基础上输出的传统离群集成技术来估计可能的成本与检测性能下降。同时，我们提出了一个后处理框架，通过堆叠过程来调整原始集成结果，以便我们可以实现公平性和检测性能之间的权衡。检测性能通过ROC曲线下面积（AUC）来衡量，而公平性则在组和个体水平上进行衡量。在8个公共数据集上进行了实验。结果表明，该框架在提高离群集成结果的公平性的有效性。我们还分析了AUC和公平性之间的权衡。
2021-03-17 cs.AI cs.LG
Continuous Fair SMOTE -- Fairness-Aware Stream Learning from Imbalanced Data
Machine Learning Group Bielefeld University（比勒菲尔德大学机器学习组）
针对流式学习中类别不平衡与算法偏见并存的问题，提出公平感知预处理方法CFSMOTE，通过过采样时的情境测试与群体平衡同时解决两类问题，在保持性能的同时显著提升了多项群体公平指标。
2025-05-19 cs.AI cs.LG
Fair Enough: Searching for Sufficient Measures of Fairness
North Carolina State University（北卡罗来纳州立大学）
测试机器学习软件的道德偏见已经成为当前一个紧迫的问题。作为回应，最近的研究提出了大量新的公平性指标，例如，IBM AIF 360工具包中的数十个公平性指标。这就提出了一个问题：任何公平工具如何能够满足如此多样化的目标？虽然我们不能完全简化公平测试的任务，但我们肯定可以减少这个问题。本文表明，许多这些公平性指标有效地衡量同样的事情。基于使用七个真实世界数据集的实验，我们发现（a）26个分类度量可以聚类为七组，（b）四个数据集度量可以聚类为三组。此外，每个精简集实际上可以预测不同的事情。因此，不再需要（甚至不可能）满足所有公平性度量。总之，为了简化公平性测试问题，我们推荐以下步骤：（1）确定什么类型的公平性是可取的（我们提供了一些这样的类型）;然后（2）在我们的聚类中查找这些类型;然后（3）每个聚类只测试一个项目。
2022-03-21 cs.CY cs.LG cs.SE
Fair lending needs explainable models for responsible recommendation
Capital One（第一资本金融公司）
金融服务业在信贷决策中的合规性和道德考虑方面面临着独特的可解释性和公平性挑战。这些挑战使模型机器学习和人工智能方法在业务决策过程中的使用复杂化。
2018-09-12 cs.AI cs.CY cs.LG
FairNeuron: Improving Deep Neural Network Fairness with Adversary Games on Selective Neurons
Xi’an Jiaotong University（西安交通大学）；Rutgers University（罗格斯大学）；Wuhan University（武汉大学）
随着深度神经网络（DNN）被集成到越来越多对社会产生深远影响的关键系统中，人们越来越关注其道德性能，例如公平性。不幸的是，在许多情况下，模型的公平性和准确性是相互矛盾的优化目标。为了解决这个问题，已经有一些工作试图通过在模型级使用对抗性博弈来提高模型的公平性。该方法引入了一个对手，除了评估模型对主任务的预测准确性外，还评估模型的公平性，并执行联合优化以获得平衡的结果。在本文中，我们注意到，在执行基于反向传播的训练时，这种矛盾的现象已经在单个神经元水平上表现出来。基于这一观察，我们提出了FairNeuron，一个DNN模型自动修复工具，以减轻公平性问题，并在不引入另一个模型的情况下平衡准确性-公平性权衡。它的工作原理是从准确性和公平性训练目标中检测具有矛盾优化方向的神经元，并通过选择性丢弃来实现权衡。与现有的方法相比，我们的方法是轻量级的，使其可扩展性和更有效。在3个数据集上的测试结果表明，FairNeuron能够有效地提高模型的公平性，同时保持稳定的效用。
2022-05-11 cs.AI cs.LG cs.SE
Ethical Considerations for Responsible Data Curation
Sony AI（索尼人工智能）
本文针对 HCCV 数据集策展中的隐私与偏见问题，提出涵盖用途、同意和多样性的事前领域伦理建议。
2023-12-10 cs.AI cs.CV cs.DB
MIFair: A Mutual-Information Framework for Intersectionality and Multiclass Fairness
Orange Research（Orange研究院）；EURECOM
MIFair通过互信息框架解决机器学习中的公平性问题，提供灵活的指标模板和偏见缓解方法，支持交集性和多类分类，实验显示其能有效减少偏见并保持预测性能。
2026-04-30 cs.AI cs.CY cs.IT
FairComp: Workshop on Fairness and Robustness in Machine Learning for Ubiquitous Computing
Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）；University of Cambridge（剑桥大学）；Nokia Bell Labs（诺基亚贝尔实验室）；Aalborg University（奥尔堡大学）
FairComp研讨会聚焦泛在计算中机器学习公平性这一尚未充分探索的问题，从社会、技术和法律三个维度探讨伦理风险、偏见缓解方法及政策影响，以推动负责任的泛在计算研究社区建设。
2023-09-22 cs.CY cs.ET cs.LG
Grading video interviews with fairness considerations
Aspiring Minds, A SHL Company（Aspiring Minds，一家SHL公司）
人们对使用面部图像和视频来预测人类的情感和特征产生了相当大的兴趣。最近，这项工作因不良的标签做法、不确定的预测结果和公平性考虑而受到批评。我们提出了一个仔细的方法来自动获得社交技能的候选人的基础上，他们的视频回答面试问题。我们第一次包括来自多个国家、多个种族的视频数据。此外，来自多个种族背景的个人根据几种最佳实践对这些视频进行了评分，以实现对社交技能的共识和公正的衡量。我们开发了两个机器学习模型来预测社交技能。第一个模型采用专家指导，使用合理的因果关系的功能。第二种方法使用深度学习，仅依赖于数据中存在的经验相关性。我们比较了这两种模型的误差，研究了模型的特异性，并提出了建议。我们通过研究种族和性别模型的错误来进一步分析公平性。我们通过确定模型对候选人面试结果的预测程度来验证模型的有用性。总的来说，该研究为使用人工智能进行视频面试评分提供了强有力的支持，同时兼顾了公平性和道德方面的考虑。
2020-07-02 cs.CV cs.LG
