A Rapid Review of Responsible AI frameworks: How to guide the development of ethical AI
University of Bari "A. Moro"（巴里大学“阿尔多·莫罗”）
本文通过对负责任AI框架的快速综述，发现现有框架多集中于需求获取阶段、工具支持少且无全能型框架，指出需构建覆盖全生命周期、适配不同用户的综合性伦理AI开发框架。
2023-06-08 cs.AI
Towards a Responsible AI Development Lifecycle: Lessons From Information Security
Rapid7（Rapid7公司）
世界各地的立法和公众情绪都促进了公平度量，可解释性和可解释性，作为道德人工智能系统负责任发展的处方。尽管这三大支柱在该领域的基础中非常重要，但它们在操作上可能具有挑战性，并且试图解决生产环境中的问题通常会让人感到西西弗斯。这种困难源于许多因素：公平性度量在计算上难以纳入训练，并且很少减轻这些系统造成的所有伤害。可解释性和可解释性可以通过博弈来显得公平，可能会无意中降低训练数据中包含的个人信息的隐私性，并增加用户对预测的信心-即使解释是错误的。在这项工作中，我们提出了一个负责任地开发人工智能系统的框架，结合了信息安全领域的经验教训和安全的开发生命周期，以克服与保护用户在对抗环境中的挑战。特别是，我们建议在开发人工智能系统的背景下利用威胁建模、设计审查、渗透测试和事件响应的概念，作为解决上述方法缺点的方法。
2022-03-06 cs.AI cs.HC cs.LG
Exploring Public Opinion on Responsible AI Through The Lens of Cultural Consensus Theory
The School of Business（商学院）；Stevens Institute of Technology（史蒂文斯理工学院）
本研究将文化共识理论应用于美国全国性AI调查数据集，分析公众对负责任AI的共识与分歧观点，为AI开发者和政策制定者兼顾个体差异与群体文化视角、回应公众关切提供参考。
2024-01-06 cs.AI cs.CY
Responsible AI Question Bank: A Comprehensive Tool for AI Risk Assessment
Data61, CSIRO（Data61，联邦科学与工业研究组织）；Queensland University of Technology（昆士兰科技大学）
针对AI风险评估工具缺乏的问题，提出负责任AI问题库，整合伦理原则与法规，通过层级关联实现全面治理，助力合规与可信AI发展。
2025-01-22 cs.AI cs.CY
Responsible Design Patterns for Machine Learning Pipelines
Polytechnique Montreal（蒙特利尔理工学院）；CertKOR AI（CertKOR人工智能公司）；Tabiah University（塔比阿大学）
本文提出将负责任设计模式融入机器学习流水线的综合框架，通过专家调查识别新模式并经真实场景验证，以降低算法偏见等风险并指导负责任AI部署。
2023-06-07 cs.AI cs.LG cs.SE
The Equitable AI Research Roundtable (EARR): Towards Community-Based Decision Making in Responsible AI Development
Google Research（谷歌研究院）；Emory University School of Law（埃默里大学法学院）；Student Success Solutions（学生成功解决方案公司）；UC Berkeley（加州大学伯克利分校）；Partnership on AI（人工智能伙伴关系）；PolicyLink（政策链接）
本文报告了我们对公平人工智能研究圆桌会议的初步评估-这是一个由法律，教育，社区参与，社会正义和技术专家组成的联盟。EARR是由一家大型科技公司、非营利组织、非政府组织研究机构和大学合作创建的，旨在提供基于关键研究的观点和对技术的紧急道德和社会危害的反馈。通过大型科技公司内部的半结构化研讨会和讨论，EARR提供了关于如何将公平和脆弱性概念化的关键观点和反馈，因为它们与人工智能技术有关。我们概述了迄今为止EARR如何运作的三个原则，这些原则与FAccT社区的关注特别相关：EARR如何扩大人工智能开发的专业知识范围，它如何促进认知好奇心和责任感的机会，以及它为相互学习创造了空间。本文作为一个分析和翻译的经验教训，通过这种参与的方法，并为未来的研究的可能性。
2023-03-14 cs.AI
Investigating Responsible AI for Scientific Research: An Empirical Study
本研究通过问卷结合深度访谈的混合方法调研科研机构的RAI实践，发现相关人员存在AI伦理知识缺口、普遍低估伦理风险，提出需多层次策略支持负责任的AI研发部署。
2023-12-15 cs.AI
Stakeholder Participation for Responsible AI Development: Disconnects Between Guidance and Current Practice
Research Centre Trust（研究信托中心）；University-Alliance Ruhr（鲁尔大学联盟）；University of Cambridge（剑桥大学）
本研究对比负责任AI指南中的利益相关方参与预期目标与商业AI开发的实际实践，发现实践中SHI多由商业需求驱动，未有效助力rAI，进而提出针对性干预措施与研究方向。
2025-06-11 cs.AI cs.HC cs.SE
The Quest for Reliable Metrics of Responsible AI
University of Copenhagen（哥本哈根大学）；LUT University（拉乌olu大学）
人工智能（AI）的发展，包括科学中的AI（AIS），应该遵循负责任的AI原则。负责任的人工智能的进展通常通过评估指标来量化，但在评估指标本身的鲁棒性和可靠性方面的工作较少。我们反思了之前的工作，这些工作将推荐系统的公平性指标作为一种AI应用程序来研究，并将其关键要点总结为一组非详尽的指导方针，用于开发负责任的AI的可靠指标。我们的指南适用于广泛的AI应用，包括AIS。
2025-10-29 cs.AI cs.CY cs.IR
Towards a Roadmap on Software Engineering for Responsible AI
Data61, CSIRO（联邦科学与工业研究组织Data61部门）
尽管人工智能正在改变世界，但人们对其行为和负责任地做出决策的能力存在严重担忧。最近发布了许多关于负责任人工智能的道德法规、原则和框架。但是，它们的水平很高，很难付诸实践。另一方面，大多数人工智能研究人员专注于算法解决方案，而负责任的人工智能挑战实际上贯穿了人工智能系统的整个工程生命周期和组件。为了缩小责任人工智能的可操作性差距，本文旨在为责任人工智能制定软件工程路线图。该路线图的重点是（i）为负责任的人工智能系统建立多级治理，（ii）为负责任的人工智能系统建立包含面向过程的实践的开发流程，以及（iii）通过系统级架构风格，模式和技术将负责任的人工智能设计构建到人工智能系统中。
2022-03-09 cs.AI cs.SE
Responsible AI Technical Report
Responsible AI Center（负责任AI中心）；Tech. Innovation Group（技术创新组）
本文提出了一种负责任的人工智能评估方法和风险缓解技术，用于确保AI服务的安全性和可靠性，并提供实用工具来管理和缓解AI风险。
2026-03-19 cs.AI cs.CL
Developing Responsible Chatbots for Financial Services: A Pattern-Oriented Responsible AI Engineering Approach
CSIRO（联邦科学与工业研究组织）；Westpac（西太平洋银行）；Atlassian（Atlassian公司）
最近发布的ChatGPT在全球范围内获得了巨大的关注和讨论，负责任的AI是讨论的一个关键话题。我们如何确保包括ChatGPT在内的人工智能系统以负责任的方式开发和采用？为了应对负责任的人工智能挑战，政府、组织和公司发布了各种道德原则。然而，这些原则非常抽象，不够实用。此外，人们已经在算法级解决方案上投入了大量精力，这些解决方案只涉及一组狭窄的原则，例如公平和隐私。为了填补这一空白，我们采用了以模式为导向的负责任人工智能工程方法，并建立了负责任人工智能模式目录，从系统的角度将负责任人工智能付诸实施。在本文中，我们首先总结了大规模实施负责任人工智能的主要挑战，并介绍了我们如何使用负责任人工智能模式目录来应对这些挑战。然后，我们检查了聊天机器人开发过程中每个阶段的风险，并推荐了模式驱动的缓解措施，以评估负责任的AI模式目录在现实世界中的有用性。
2023-02-27 cs.AI cs.SE
A Responsible Artificial Intelligence Framework for Groundwater Modeling
本文以黑河流域中游为研究区，提出六项负责任AI原则，开发LSTM与Transformer模型并验证，发现Transformer表现更优，证明负责任AI原则可用于地下水预测以支撑水资源可持续管理。
2026-08-18 cs.AI
Software Engineering for Responsible AI: An Empirical Study and Operationalised Patterns
Data61, CSIRO（澳大利亚联邦科学与工业研究组织Data61部门）
尽管人工智能（AI）正在解决现实世界的挑战并改变行业，但人们对其以负责任的方式行事和决策的能力存在严重担忧。最近，政府、组织和企业发布了许多关于负责任人工智能的道德原则和指南。然而，这些人工智能伦理原则和指南通常都是高层次的，并没有就如何设计和开发负责任的人工智能系统提供具体的指导。为了解决这个问题，我们首先进行了一项实证研究，采访了21名科学家和工程师，以了解从业者对人工智能伦理原则及其实施的看法。然后，我们提出了一个模板，使人工智能伦理原则能够以具体模式的形式运作，并建议使用新创建的模板的模式列表。这些模式提供了具体的、可操作的指导，有助于开发负责任的人工智能系统。
2021-11-18 cs.AI cs.SE
E-Governance, International Cooperation and Security - New Millennium Challenges for a Small Country
本文分析了信息和通信技术（ICT）及其对发展中国家（DCs）的影响，对ICT对人类社会未来的作用的不同观点进行了批评。这一批评是从阿尔巴尼亚这样一个后共产主义发展中小国的角度来看的，希望结论能为一般发展中国家，特别是处于转型阶段的发展中国家提供一些启示。我们研究了国际合作和安全的一些方面，在公共行政中实施的ICT可能会产生重要影响。审查了发展政策和做法，包括公共和私营部门之间的关系。根据许多作者的论点，我们确定或重新定义了一些关键因素，这些因素对信息和通信技术在国家发展中的作用，与国际社会的关系以及推动其发展的方式产生了负面影响。
2013-12-08 cs.CY
Promising Topics for U.S.-China Dialogues on AI Risks and Governance
本文系统分析美中40余份AI政策与治理文件，识别双方在风险认知和治理路径上的趋同点，并提出推进双边对话与合作的建议。
2025-05-12 cs.CY
Meeting the SDGs : Enabling the Goals by Cooperation with Crowd using a Conversational AI Platform
Nagoya Institute of Technology（名古屋工业大学）；Kyoto University（京都大学）
在本文中，我们报告了与1099名公民就阿富汗可持续发展目标进行的大规模在线讨论。
2021-06-09 cs.CL cs.CY
Ethical Considerations and Policy Implications for Large Language Models: Guiding Responsible Development and Deployment
本文探讨了大型语言模型生成内容的伦理影响与责任归属挑战，提出需建立前瞻性伦理框架与政策以指导其负责任的开发与部署。
2023-08-01 cs.CY
Responsible Reporting for Frontier AI Development
University of Toronto（多伦多大学）；Google DeepMind（谷歌DeepMind）；Institute for AI Policy and Strategy（人工智能政策与战略研究所）；Massachusetts Institute of Technology（麻省理工学院）；Vector Institute for AI（Vector人工智能研究所）；University of Oxford（牛津大学）；Center for Security and Emerging Technology（安全与新兴技术中心）
本文针对前沿 AI 风险信息不对称问题，阐明开发与部署组织向政府、产业和民间社会报告安全关键信息的价值，并提出负责任报告的核心特征及实践实施机制。
2024-04-03 cs.AI cs.CY
Conflict and Cooperation: AI Research and Development in terms of the Economy of Conventions
从社会学和其他学科的角度来看，人工智能（AI）及其与社会的关系越来越成为一个有趣的研究对象。诸如惯例经济（EC）等理论通常应用于人际关系的背景下，但仍然明显缺乏关于这一理论和其他理论如何揭示人类与自治系统之间相互作用的研究。这项工作的重点是研究一个初步的步骤，这是机器和人类之间后续交互的关键推动因素：研究，设计和开发人工智能相关系统的过程如何反映不同的道德寄存器，由EC内的惯例表示。更好地理解指导人工智能进步的这些惯例被认为是理解这些自治系统在与社会的互动中所反映的惯例的第一步和必要的进步。为此，我们开发了一种基于主动学习的迭代工具，用于标记来自AI和机器学习（ML）研究领域的数据集，并提出了在这些惯例上训练的监督分类器的初步结果。为了进一步证明该方法的可行性，将结果与在软件约定上训练的分类器进行对比。
2020-09-01 cs.CY cs.GR
Key Considerations for the Responsible Development and Fielding of Artificial Intelligence
我们回顾了未来工作的主要考虑因素、实践和领域，旨在负责任地开发和部署人工智能技术。我们描述了关键挑战，并就应优先考虑的主题、应实施的实践以及应定义或更新的政策提出建议，以反映人工智能技术的能力和用途的发展。主要考虑因素是由美国政府部门和对国家安全至关重要的机构采用的。然而，它们与人工智能系统的设计、构造和使用更广泛地相关。
2021-08-19 cs.CY
Exploring responsible applications of Synthetic Data to advance Online Safety Research and Development
本文探讨合成数据在在线安全领域的负责任应用，指出其加速研究、缓解偏见、保护隐私等潜力，同时强调需谨慎应对伦理挑战。
2024-02-07 cs.CY
The Tragedy of the AI Commons
Mila - Québec AI Institute（米拉-魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）；University of Toronto（多伦多大学）；University of California, Irvine（加州大学欧文分校）
近年来，关于人工智能伦理研究的政策和指导方针提案激增。这些应该指导人工智能的社会责任发展，以实现共同利益。然而，通常存在不合作的动机（即，不遵守这些政策和准则）;而且，这些建议往往缺乏有效机制来执行其本身的规范要求。刚才描述的情况构成了一种社会困境;也就是说，在这种情况下，没有人有合作的个人动机，尽管相互合作将导致所有参与者的最佳结果。在本文中，我们使用随机进化博弈动力学模型的伦理发展的背景下，人工智能这一社会困境。这种形式主义使我们能够隔离可能被干预的变量，从而为人工智能中众多利益相关者之间的合作提供可行的建议。我们的研究结果表明，如何随机效应可以帮助在这种情况下，使合作可行。他们建议，为共同利益进行的协调应在较小的团体中进行，因为在这些团体中合作成本低，而且失败的风险很高。这为我们提供了深入了解的条件下，我们应该期待这样的道德建议是成功的，就其范围，规模和内容。
2021-01-18 cs.AI cs.CY cs.GT
AI4CAREER: Responsible AI for STEM Career Development at Scale in K-16 Education
University of Notre Dame（圣母大学）
AI4CAREER研讨会探讨如何在K-16教育中通过负责任的AI促进STEM职业发展，聚焦AI在职业准备度评估、决策边界、发展一致性及公平性设计等方面的核心问题。
2026-03-03 cs.CY
Responsible developments and networking research: a reflection beyond a paper ethical statement
本文为立场论文，聚焦网络研究领域，围绕两个不同背景下开发的框架展开讨论，反思该领域技术实现的超技术中心影响，探讨从业者的参与意识与责任，推动研究实践超越纸面伦理声明。
2024-02-01 cs.CY
Position: Stop Preaching and Start Practising Data Frugality for Responsible Development of AI
本文主张机器学习社区应从说教转向实践数据节俭，通过子集选择方法在保持精度的同时大幅降低训练能耗和碳排放，以负责任地发展AI。
2026-05-31 cs.CY cs.LG
World Artificial Intelligence Cooperation Organization (WAICO): Mapping an Emerging Institution in the Global AI Governance Regime Complex
Tsinghua University（清华大学）；Federal University of Rio de Janeiro（里约热内卢联邦大学）
本文通过编码15项国际AI治理文书和机构，分析中国提议的世界人工智能合作组织（WAICO）的设计特征，发现其结合了成员国开放、无价值观测试和发展优先议程，构成全球AI治理中基于主权与发展的第二极。
2026-06-24 cs.CY
AI Ethics by Design: Implementing Customizable Guardrails for Responsible AI Development
University of Zagreb（萨格勒布大学）；Preamble（普雷安布尔公司）
本文提出一种可定制的AI伦理护栏框架，通过整合规则、策略与AI助手实现负责任的AI行为，支持伦理多元主义并提升透明度与用户自主性，同时给出冲突解决策略。
2026-11-04 cs.CL cs.CY
The Narrow Depth and Breadth of Corporate Responsible AI Research
Sam M. Walton College of Business, University of Arkansas（阿肯色大学沃尔顿商学院）；Lundquist College of Business, University of Oregon（俄勒冈大学伦德奎斯特商学院）；Mendoza College of Business, University of Notre Dame（圣母门多萨商学院）；School of Computing, Southern Illinois University（南伊利诺伊大学计算机学院）
研究揭示企业负责任的人工智能研究存在深度和广度不足的问题，需加强公开参与以提升社会影响。
2026-01-28 cs.CY
To Build or Not to Build? Factors that Lead to Non-Development or Abandonment of AI Systems
University of Cambridge（剑桥大学）；National Cancer Institute, National Institutes of Health（国家癌症研究所，美国国立卫生研究院）；Research Centre Trust, UA Ruhr, University Duisburg-Essen（研究信托中心，乌尔姆鲁尔，杜伊斯堡-埃森大学）
本文探讨了影响AI系统不发展或放弃的关键因素，通过文献综述和案例研究，识别了伦理、反馈、生命周期挑战等六类因素，并指出现有研究需更全面地考虑非伦理相关因素。
2026-04-30 cs.AI cs.CY
Ethical Assurance: A practical approach to the responsible design, development, and deployment of data-driven technologies
本文为数据科学和人工智能领域负责任的研究和创新的跨学科项目提供了一些贡献。首先，它对目前建立算法评估实用机制的努力进行了批判性分析，这些机制用于实施规范性原则，如可持续性，问责制，透明度，公平性和可解释性，以确定当前方法的局限性和差距。其次，它提供了一个基于参数的保证方法的可访问的介绍，并探讨了它目前是如何应用于自主和智能系统的安全案例的开发。第三，它概括了这种方法，将更广泛的道德，社会和法律的考虑，反过来建立一个新版本的基于论证的保证，我们称之为“道德保证”。道德保证是一种结构化的手段，可用于统一已提出的各种实用机制，因为它建立在基于流程的项目治理形式之上，支持包容性和参与性的道德审议，同时也立足于社会和技术现实。最后，它通过详细说明当前的挑战，开放的问题和下一步，作为一个跳板，以建立一个积极的（和跨学科的）研究计划，以及促进正在进行的讨论政策和治理的道德保证的议程。
2021-10-11 cs.CY
Machine Learning Practices Outside Big Tech: How Resource Constraints Challenge Responsible Development
Massachusetts Institute of Technology（麻省理工学院）
来自不同职业和背景的从业者越来越多地使用机器学习（ML）方法。尽管如此，对ML从业者的研究通常吸引来自大型科技和学术界的人群，因为研究人员更容易进入这些社区。通过这种选择偏见，过去的研究往往排除了更广泛、资源较少的ML社区-例如，在初创公司、非科技公司和公共部门工作的从业者。这些从业者与他们的大科技同行有许多相同的ML开发困难和道德难题;然而，他们的经验受到额外的研究不足的挑战，这些挑战来自于在有限的资源下部署ML，存在风险增加，以及无法访问内部研究团队。我们贡献了一个定性分析的17个访谈与利益相关者的组织，在以前的研究中较少代表。我们发现了一些紧张局势，这些组织的资源限制-隐私和无处不在，资源管理和性能优化，访问和垄断之间的紧张关系。学术界对这些从业者的关注可以促进对ML局限性的更全面的理解，因此有助于制定研究议程，以促进所有人的负责任ML开发。
2021-10-06 cs.CY cs.LG
Let it RAIN for Social Good
Umeå University（于默奥大学）
人工智能（AI）作为一种高度变革性的技术，在联合国可持续发展目标（SDG）的推动者和威胁者中扮演着特殊的角色。人工智能伦理和新兴的高层次政策努力处于这些结果之间的支点，但由于高层次价值观和负责任的行动之间的抽象差距而无法发挥作用。本文提出了责任规范（RAIN）框架，弥合了这一差距，从而实现了对人工智能影响的有效高层控制。通过有效和可操作的人工智能伦理，人工智能技术可以用于全球可持续发展。
2022-07-26 cs.AI cs.CY
Current and Future Directions for Responsible Quantum Technologies: A ResQT Community Perspective
本文概述ResQT社区在负责任量子技术方面的现状与未来方向，借鉴AI和纳米技术教训，提出弥合量子鸿沟、促进负责任创新与可持续发展的行动，倡导将负责任原则融入量子发展全程。
2025-09-24 cs.CY physics.soc-ph
MQG4AI Towards Responsible High-risk AI -- Illustrated for Transparency Focusing on Explainability Techniques
本文提出 MQG4AI 生命周期规划方法，通过可定制的质量门整合 RAI 知识，并以模型开发中的解释阶段为例对齐解释质量评估指南，从而提升高风险 AI 的透明度。
2025-02-17 cs.CY
LifeSync-Games: Toward a Video Game Paradigm for Promoting Responsible Gaming and Human Development
针对游戏发展价值未被充分利用的问题，提出LifeSync-Games框架，利用简化数字孪生连接虚拟与现实，促进自我调节和全面发展，并在新游戏和畅销游戏中展示应用。
2025-10-22 cs.CY cs.HC cs.MM
The Responsible Development of Automated Student Feedback with Generative AI
UNESCO Centre for Problem Based Learning at Aalborg University（奥尔堡大学问题导向学习中心）；Department of Computer Science, Aalborg University（奥尔堡大学计算机科学系）；Technocritical Research on AI, Learning & Society Lab (trailsLAB)（人工智能、学习与社会实验室）
本文探讨了利用生成式AI和LLMs开发自动化学生反馈的技术潜力与伦理挑战，强调需确保反馈的包容性、公平性，并依赖人类专家的持续投入与模型优化以实现负责任的教育应用。
2025-02-18 cs.AI cs.CL cs.CY
Manifesto for the Responsible Development of Mathematical Works -- A Tool for Practitioners and for Management
本宣言提出数学工作负责任发展的十大支柱流程，覆盖全生命周期，旨在帮助实践者与管理层降低数学产品和服务开发中的风险，促进其造福社会。
2023-06-15 cs.CY math.HO
Free and Open-Source Software is not an Emerging Property but Rather the Result of Studied Design
许多人认为，自由和开放源码软件与维基百科一样，证明了正在发生的模式转变，即从等级管理和市场驱动的知识生产方式转变为分层、协作和基于共同点的生产方式。从这一角度看，人们通常认为自由和开放源码软件是集体智慧的体现，在这种集体智慧中，可交付的成果和人工制品仅仅是通过合作而产生的，不需要监督领导。本文认为，这一假设是基于有限的软件开发过程的理解，并可能导致错误的结论，同行生产的潜力。开发一个不那么微不足道的软件，无论是自由和开放源码软件还是专利软件，都是一项复杂的合作努力，需要许多人（往往是数千人）的参与。一部分参与者总是扮演着领导系统和子系统设计师的角色，决定架构和功能;其余的人在逻辑和功能意义上在他们的“下面”工作。虽然包括自由和开放源码软件在内的新的强大力量显然在后工业化、网络化经济中发挥作用，但目前在集体智慧和网络化合作领域的研究还处于幼稚阶段，必须让位于更深层次的意识，这就要求理解软件开发过程。
2010-12-27 cs.CY cs.SI
Welzijn.AI: Developing Responsible Conversational AI for Elderly Care through Stakeholder Involvement
本文介绍Welzijn.AI，一种监测老年人心理健康的对话式AI，通过多轮利益相关者评估揭示其优势、设计需求及挑战，为负责任AI开发提供指导。
2025-04-24 cs.CY
