Some Critical and Ethical Perspectives on the Empirical Turn of AI Interpretability
Université Paris-Saclay（巴黎萨克雷大学）
我们考虑了人工智能（AI）发展目前面临的两个基本和相关问题：缺乏道德和AI决策的可解释性。可解释的人工智能决策是否有助于解决人工智能中的道德问题？使用随机研究，我们的实验表明，生产的解释的经验和自由转向倾向于选择人工智能的解释与低谴责的力量。因此，在某些条件下，可解释性工具不是生产道德人工智能的手段，而是矛盾的障碍，因为它们可以给人一种对道德事件敏感的错觉。我们还表明，人工智能解释的谴责力量高度依赖于解释发生的背景，例如解释对象的性别或教育水平。因此，人工智能伦理工具有时过于灵活，通过自由生产解释进行自我监管似乎不足以解决伦理问题。然后，我们提出了伦理人工智能未来发展的两种情况：更多的外部监管或更多的人工智能解释自由化。这两条相反的道路将对伦理AI的未来发展发挥重要作用。
2021-09-20 cs.AI cs.CY
Fairness in Agentic AI: A Unified Framework for Ethical and Equitable Multi-Agent System
Carnegie Mellon University（卡内基梅隆大学）；BIT Sindri（辛德里理工学院）
本文综述了去中心化多智能体AI中的公平性问题，提出一个将公平性视为动态涌现属性的统一框架，通过整合公平性约束、偏见缓解策略和激励机制来对齐智能体行为，经实证证明能促进更公平的决策，为构建负责任的多智能体系统奠定基础。
2025-03-02 cs.AI cs.CY cs.MA
Ethical Fairness in Ubiquitous Health Sensing without Known Attributes
Ira A. Fulton Schools of Engineering, Arizona State University（亚利桑那州立大学弗里曼工程学院）；Arizona State University（亚利桑那州立大学）；Cornell University（康奈尔大学）；University of Michigan（密歇根大学）
针对普适健康感知中缺乏人口统计或异构属性时的公平性问题，提出基于Fisher信息引导的潜在子群学习与无害正则化框架Flare，通过优化几何实现伦理公平。
2026-11-04 cs.AI cs.CY cs.LG
Fair by design: A sociotechnical approach to justifying the fairness of AI-enabled systems across the lifecycle
本文提出TEA保障框架、开源工具与公平考量图，将公平分析从统计指标扩展到AI全生命周期，并通过糖尿病患者高血压风险预测CDSS案例展示其参与式证成与复用价值。
2024-06-13 cs.CY
Accuracy, Fairness, and Interpretability of Machine Learning Criminal Recidivism Models
University of Houston（休斯顿大学）
刑事累犯模型是工具，已获得广泛采用假释委员会在美国各地，以协助假释的决定。这些模型收集了大量关于个人的数据，然后预测一个人在假释后是否会犯罪。虽然这些模型不是唯一的或主要因素，在作出最终的假释决定，问题已经提出了关于其准确性，公平性和可解释性。在本文中，各种机器学习为基础的刑事累犯模型创建的基础上，从美国佐治亚州的一个现实世界的假释决定数据集。累犯模型的准确性，公平性和可解释性进行了比较评估。结果发现，有显着的差异和权衡之间的准确性，公平性，并被固有的解释。因此，选择最佳模型取决于准确性，公平性和可解释性之间的理想平衡，因为没有模型是完美的或在不同标准中始终是最佳的。
2022-09-14 cs.CY cs.LG
Federated Learning Meets Fairness and Differential Privacy
International Institute of Information Technology (IIIT), Hyderabad（国际信息技术学院（海得拉巴））
深度学习前所未有的成功引发了从有偏见的预测到数据隐私等多个伦理问题。研究人员通过引入公平性指标、联邦学习或差分隐私来解决这些问题。首先，这项工作提出了一个道德的联邦学习模型，同时结合所有三个措施。在成人、银行和荷兰数据集上的实验突出了准确性、公平性和隐私性之间的“经验相互作用”。
2021-08-23 cs.AI cs.CR cs.CY
Games for Fairness and Interpretability
Massachusetts Institute of Technology（麻省理工学院）
随着机器学习（ML）系统变得越来越普遍，确保其底层算法的公平和公正应用至关重要。我们认为，实现这一目标的一种方法是积极培养公众压力，让机器学习开发人员设计和开发更公平的算法--而培养公众压力的一种方法是通过游戏性，同时为算法开发人员的利益和目标服务。我们提出了一类新的游戏-“公平和可解释性的游戏”-作为一个例子，激励对齐的方法，生产更公平，更公正的算法。公平性和可解释性游戏是精心设计的具有大众吸引力的游戏。它们具有内在的吸引力，提供了对机器学习模型如何工作的见解，并最终产生帮助研究人员和开发人员改进算法的数据。我们强调了几个可能的游戏例子，它们对公平性和可解释性的影响，它们的扩散如何通过缩小算法开发人员和公众之间的差距来创造积极的公众压力，以及为什么机器学习社区可以从中受益。
2020-04-20 cs.AI cs.CY
Promises and Challenges of Causality for Ethical Machine Learning
SonyAI（索尼人工智能）
近年来，人们对设计公平决策系统的因果推理越来越感兴趣，因为它与法律框架的兼容性，对人类利益相关者的可解释性，以及对观测数据中固有的虚假相关性的鲁棒性等因素。然而，最近对因果公平的关注，一直伴随着极大的怀疑，由于在文献中应用当前因果公平方法的实践和认识论挑战。受计量经济学、社会科学和生物医学领域长期以来对因果关系的实证研究的启发，本文提出了在“潜在结果框架”下适当应用因果公平的条件。“我们强调了因果推理的关键方面，这些方面在因果公平文献中经常被忽视。特别是，我们讨论的重要性，指定的性质和时间的社会类别，如种族或性别的干预。确切地说，而不是假设一个不可变的属性的干预，我们提出了一个重点转移到他们的看法，并讨论了公平性评价的影响。我们认为，这种概念化的干预是关键，在评估因果假设的有效性和进行合理的因果分析，包括避免治疗后的偏见。随后，我们说明了因果关系如何解决现有的公平性指标的局限性，包括那些依赖于统计相关性。具体来说，我们引入了常见的统计公平概念的因果变量，我们做了一个新的观察，在因果框架下，不同的公平概念之间没有根本的分歧。最后，我们进行了广泛的实验，我们证明了我们的方法来评估和减轻不公平，特别是当治疗后的变量存在。
2022-10-26 cs.CY cs.LG
Variable Selection in the Context of AI Fairness
UniCredit S.p.A.（裕信银行）；Università Cattolica del Sacro Cuore（圣心天主教大学）；Cetif
本文针对AI公平性语境下的变量选择问题，提出将数学方法与伦理、社会意识融合的跨学科方案，主张保留所有潜在相关变量以减少隐含偏差，助力AI系统符合欧盟AI法案要求。
2026-08-13 cs.AI cs.CY cs.LG
Ethical and Explainable AI in Reusable MLOps Pipelines
Washington University of Science and Technology（科学与技术华盛顿大学）；University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）；Karlstad University（卡尔斯塔德大学）；American University of Bahrain（巴林美国大学）
本文提出了一种整合伦理和可解释性AI的MLOps框架，通过自动化公平性控制和可解释性特征，在生产环境中实现公平性与预测效用的平衡。
2026-02-15 cs.AI cs.CY
Addressing Intersectionality, Explainability, and Ethics in AI-Driven Diagnostics: A Rebuttal and Call for Transdiciplinary Action
本文针对Sabuncu等人2025年提出的优先考虑AI诊断准确率的观点进行反驳，指出其易简化公平、隐私、交叉性等社会伦理问题，倡导融合多学科洞见、以可解释性为核心的框架，平衡准确率与伦理公平，保障AI诊断服务多元人群的公正性。
2025-01-15 cs.CY
Ethical Challenges and Evolving Strategies in the Integration of Artificial Intelligence into Clinical Practice
Dartmouth College（达特茅斯学院）；The George Washington University（乔治华盛顿大学）
本文分析AI融入临床实践的五类伦理风险与监管部署缺口，并提出公平算法、透明决策、患者中心隐私保护及多方协作策略。
2024-11-18 cs.AI cs.CY
Developing Future Human-Centered Smart Cities: Critical Analysis of Smart City Security, Interpretability, and Ethical Challenges
Hamad Bin Khalifa University（哈马德·本·哈利法大学）；The Hashemite University（哈希姆大学）；Pak-Austria Fachhochschule: Institute of Applied Sciences and Technology（巴基斯坦-奥地利应用科学与技术学院）；Qatar University（卡塔尔大学）；Information Technology University（信息技术大学）
随着全球人口的增长推动世界各地的快速城市化，我们非常需要考虑值得居住的城市的未来。特别是，随着现代智慧城市接受越来越多的数据驱动的人工智能服务，值得记住的是，技术可以促进繁荣，福祉，城市宜居性或社会正义，但只有当它有正确的模拟补充时（例如深思熟虑的政策、成熟的机构、负责任的管治）;这些智慧城市的最终目标是促进和提高人类福祉和社会繁荣。研究人员已经表明，各种技术商业模式和功能实际上会导致极端主义，两极分化，错误信息和网络成瘾等社会问题。根据这些观察，解决涉及确保这些人工智能算法的安全性，安全性和可解释性的哲学和伦理问题将成为未来城市的技术基石。在全球范围内，人们呼吁使技术更加人性化和以人为本。在本文中，我们分析和探讨了在以人为中心的应用程序中成功部署人工智能所面临的关键挑战，包括安全性、鲁棒性、可解释性和道德（数据和算法）挑战，并特别强调了这些概念/挑战的融合。我们提供了一个关于这些关键挑战的现有文献的详细回顾，并分析这些挑战之一如何可能导致其他挑战或帮助解决其他挑战。本文还就这些领域目前的局限性、陷阱和未来的研究方向提出了建议，以及如何填补目前的空白并找到更好的解决方案。我们相信，这种严格的分析将为该领域的未来研究提供一个基线。
2021-12-05 cs.AI cs.CY
An Analysis of the New EU AI Act and A Proposed Standardization Framework for Machine Learning Fairness
University of Washington（华盛顿大学）；University of Nicosia（尼科西亚大学）
针对欧盟新AI法案存在公平性量化指标缺失、术语歧义等问题，研究提出针对性监管优化方案及AI公平性透明度公共评估框架，主张标准化行业最佳实践，平衡监管与创新投资，并以ASR和语音合成器为例验证。
2025-09-30 cs.AI cs.CY
Multimodal Approaches to Fair Image Classification: An Ethical Perspective
University of Washington（华盛顿大学）
本论文从伦理视角探讨多模态方法在公平图像分类中的应用，旨在通过结合视觉数据与文本等模态来减轻偏见，提升公平性与准确性，并倡导负责任的AI实践。
2024-12-11 cs.AI cs.CV cs.CY
Explaining how your AI system is fair
AXA GO, AI Research（AXA GO 人工智能研究院）
为了以可持续的方式实现公平的机器学习，选择正确的公平目标是关键。由于公平是一个正义的概念，它有各种各样的定义，有时是相互冲突的，这不是一个微不足道的任务。人工智能（AI）系统最合适的公平定义是道德标准和法律要求的问题，正确的选择取决于特定的用例及其上下文。在这份立场文件中，我们建议使用一个决策树的手段来解释和证明实现的公平性的最终用户。这样的结构首先将支持人工智能从业者将道德原则映射到具体应用的公平定义，从而使选择成为一个简单透明的过程。然而，这种方法也有助于记录决策背后的推理。由于人工智能中公平性主题的普遍复杂性，我们认为为给定用例指定“公平性”是保持人工智能系统信心的最佳方法。在这种情况下，这可以通过与更广泛的受众分享决策过程中表达的理由和原则来实现。
2021-05-03 cs.AI cs.CY cs.LG
On Consequentialism and Fairness
Stanford University（斯坦福大学）；University of Washington（华盛顿大学）；Allen Institute for AI（艾伦人工智能研究所）
最近关于机器学习公平性的研究主要强调如何定义、量化和鼓励“公平”的结果。然而，对这些努力所依据的道德基础却关注较少。应该考虑的伦理观点之一是结果主义，粗略地说，结果才是最重要的。尽管结果主义并非没有困难，尽管它不一定提供一种选择行动的易处理的方法（因为不确定性、主观性和聚合的综合问题），但它仍然提供了一个强大的基础，可以用来批评现有的关于机器学习公平性的文献。此外，它还突出了一些涉及的权衡，包括谁重要的问题，使用政策的利弊，以及遥远未来的相对价值。在本文中，我们提供了一个结果主义的公平性的共同定义内的机器学习的批评，以及一个机器学习的结果主义的观点。最后，我们更广泛地讨论了学习和随机化的问题，这对自动化决策系统的道德有重要的影响。
2020-05-11 cs.AI cs.CY cs.LG
Transparency, Fairness, Data Protection, Neutrality: Data Management Challenges in the Face of New Regulation
数据革命继续改变着科学、工业和政府的每一个部门。由于数据驱动技术对社会的巨大影响，我们越来越意识到负责任地使用数据和算法的必要性-根据法律和道德规范。在本文中，我们讨论了三个最新的监管框架：欧盟的一般数据保护条例（GDPR），纽约市自动决策系统（ADS）法和网络中立原则，旨在保护受数据汇集和分析影响的个人的权利。这些框架是一个全球趋势的突出例子：各国政府开始认识到有必要监管数据驱动的算法技术。我们在本文中的目标是让这些监管框架引起数据管理社区的注意，并强调它们提出的技术挑战，我们作为一个社区，有能力解决这些挑战。本文的主要内容是，法律和道德规范不能作为事后的想法纳入数据驱动系统。相反，我们必须从设计责任的角度来思考，将其视为一种系统要求。
2019-03-08 cs.CY cs.DB
A Fair and Ethical Healthcare Artificial Intelligence System for Monitoring Driver Behavior and Preventing Road Accidents
American University of the Middle East（美国中东大学）；University of Toronto（多伦多大学）
本文提出了一种新的方法，以防止交通事故和监测驾驶员的行为，使用医疗保健人工智能系统，结合公平和道德。危险的医疗案件和驾驶员的异常行为被检测到。公平算法是为了改善决策和解决道德问题，如隐私问题，并考虑在医疗保健和驾驶人工智能领域出现的挑战。医疗保健专业人员将被警告任何不寻常的活动，并在必要时提供驾驶员的位置，以便使医疗保健专业人员能够立即帮助不稳定的驾驶员。因此，使用医疗保健AI系统可以预测并因此预防事故，并且可以基于与ER系统交互的车辆内的内置AI系统来挽救生命。
2021-11-08 cs.AI cs.CY cs.HC
Interventions over Predictions: Reframing the Ethical Debate for Actuarial Risk Assessment
MIT Media Lab（麻省理工学院媒体实验室）；Harvard University（哈佛大学）
精算风险评估可能会被不适当地视为一种中立的方式，以抵消隐性偏见，并提高刑事司法系统从审前释放到判刑、假释和缓刑等几乎每一个环节所作决定的公平性。近来，这些评估受到越来越多的审查，因为批评者声称，这些评估所依据的统计技术可能会重现数据中反映的现有歧视模式和历史偏见。这场辩论的大部分内容都围绕着公平和预测准确性的相互竞争的概念，基于对变量的争议性使用，这些变量作为法律保护不受歧视的特征的“代理人”，如种族和性别。我们认为，在风险评估中使用回归的核心伦理争论不仅仅是偏见或准确性。相反，这是一个目的。如果机器学习仅仅用于预测个人未来的犯罪，那么就很难打破由刑事司法系统本身的医源性影响驱动的刑事定罪循环。我们认为，机器学习不应用于预测，而是用于表面协变量，这些协变量被输入因果模型，以理解犯罪的社会、结构和心理驱动因素。我们提出了一种替代应用的机器学习和因果推理远离预测风险分数的风险缓解。
2018-07-14 cs.CY cs.LG stat.AP
Exploring the Ethical Concerns in User Reviews of Mental Health Apps using Topic Modeling and Sentiment Analysis
School of Computing and Informatics（计算与信息学学院）；University of Louisiana at Lafayette（路易斯安那州立大学拉法叶分校）
本研究通过主题建模和情感分析，探讨心理健康应用用户评论中的伦理问题，揭示现有伦理原则的不足及新兴伦理挑战。
2026-02-04 cs.CL cs.CY cs.HC
Mathematical Modelling of Ethical AI Use in Higher Education: A Coordination Game Framework for Future-Facing Learning
School of Computing, Engineering and Digital Technologies, Teesside University, United Kingdom（计算工程与数字技术学院，泰赛大学，英国）
本文通过协调博弈论框架，研究学生群体中负责任或机会主义AI使用规范的形成机制，并揭示评估激励如何触发行为转变。
2026-04-23 cs.AI cs.CC cs.CY
Simplicity Creates Inequity: Implications for Fairness, Stereotypes, and Interpretability
Cornell University（康奈尔大学）；University of Chicago Booth School of Business（芝加哥大学布斯商学院）
算法越来越多地用于辅助或在某些情况下取代人类决策，特别是那些依赖于预测的决策。因此，除了预测质量之外，还有两个额外的功能引起了人们的兴趣：（i）为了促进人类与这些算法的交互和理解，我们希望预测函数在某种程度上是简单的或可解释的;（ii）因为它们会影响后续决策，我们也希望它们产生公平的分配。我们开发了一个正式的模型来探索简单性和公平性的需求之间的关系。虽然这两个概念似乎是由定性不同的目标的动机，我们显示了它们之间的根本不一致。具体来说，我们正式提出了一个一般框架，产生简单的预测功能，在这个框架中，我们建立了两个基本的结果。首先，每个简单的预测函数都是严格可改进的：存在一个更复杂的预测函数，它既严格更有效，也严格更公平。换句话说，使用简单的预测函数既降低了弱势群体的效用，也降低了相对于其他选项的整体福利。第二，我们表明，简单的预测功能必然会产生激励，以使用个人的信息在一个弱势群体的成员资格-激励，不存在之前的简化，并对这些人的工作。因此，简单化将劣势转化为对弱势群体的偏见。我们的研究结果不仅与算法有关，而且与任何产生简单模型的过程有关，因此它们与刻板印象的心理学和早期关于统计歧视的经济学文献有关。
2019-06-02 cs.CY cs.DS cs.LG
