The Role of Smart Cities in Ethical Design Framework
Monash University（蒙纳士大学）
本文探讨智能城市在伦理设计框架中的作用，通过理论分析和案例研究，提出监管沙盒、参与式治理等策略，以促进包容性和伦理化的城市发展。
2025-12-06 cs.CY
Data-Centric Safety and Ethical Measures for Data and AI Governance
本研究提出了一种涵盖AI和数据集生命周期各阶段的、与领域无关的负责任数据集设计框架，旨在增强以数据为中心的安全和伦理实践，降低因低质量或不安全数据导致的AI滥用风险，并促进红队测试与模型信任。
2025-07-01 cs.CY
Australia's Approach to AI Governance in Security and Defence
澳大利亚是一个领先的人工智能国家，拥有强大的盟友和伙伴关系。澳大利亚优先发展机器人、人工智能和自主系统，以发展军队的主权能力。澳大利亚承诺根据第36条审查所有新的作战手段和方法，以确保武器和武器系统在可接受的控制系统内运作。此外，澳大利亚还对人工智能对人权和情报机构的风险进行了大量审查，并致力于制定安全和国防领域的道德准则和框架。澳大利亚致力于经合组织基于价值观的原则，以负责任地管理值得信赖的人工智能，并采用一套国家人工智能伦理原则。虽然澳大利亚尚未专门为澳大利亚国防组织（ADO）采用人工智能治理框架，但国防科技集团（DSTG）发布了“国防中道德人工智能的方法”（MEAID）技术报告，其中包括管理人工智能军事应用的道德和法律风险的框架和实用工具。澳大利亚可以发挥领导作用，将法律和道德考虑因素纳入其ADO AI能力获取过程。这就需要一个政策框架，确定其法律和道德要求，由国防工业利益攸关方提供信息，并提供一个实用的方法，将法律和道德风险缓解战略纳入采购过程。
2022-03-09 cs.CY
The Role of Legal Frameworks in Shaping Ethical Artificial Intelligence Use in Corporate Governance
本文分析现行立法、行业标准与学术观点，评估企业AI治理法律框架的优劣，并提出以原则性监管结合行业指引促进透明、问责与公平的建议。
2025-03-17 cs.CY cs.HC
Ethical AI Governance: Methods for Evaluating Trustworthy AI
University of Galway（戈尔韦大学）；ADAPT Research Centre（ADAPT研究中心）
本文围绕伦理AI治理主题，综述现有可信人工智能（TAI）评估相关文献并给出分类，深化对该领域自我评估方法的认知，支撑AI伦理与安全标准落地。
2024-08-28 cs.AI cs.CY
Ethical Assurance: A practical approach to the responsible design, development, and deployment of data-driven technologies
本文为数据科学和人工智能领域负责任的研究和创新的跨学科项目提供了一些贡献。首先，它对目前建立算法评估实用机制的努力进行了批判性分析，这些机制用于实施规范性原则，如可持续性，问责制，透明度，公平性和可解释性，以确定当前方法的局限性和差距。其次，它提供了一个基于参数的保证方法的可访问的介绍，并探讨了它目前是如何应用于自主和智能系统的安全案例的开发。第三，它概括了这种方法，将更广泛的道德，社会和法律的考虑，反过来建立一个新版本的基于论证的保证，我们称之为“道德保证”。道德保证是一种结构化的手段，可用于统一已提出的各种实用机制，因为它建立在基于流程的项目治理形式之上，支持包容性和参与性的道德审议，同时也立足于社会和技术现实。最后，它通过详细说明当前的挑战，开放的问题和下一步，作为一个跳板，以建立一个积极的（和跨学科的）研究计划，以及促进正在进行的讨论政策和治理的道德保证的议程。
2021-10-11 cs.CY
Domain Analysis of Ethical, Social and Environmental Accounting Methods
道德、社会和环境会计是评估和报告组织在环境、社会和治理方面表现的实践。有很多方法描述了如何进行这种可持续性评估。本报告对道德、社会和环境会计方法进行了领域分析。我们的分析包括21种方法。每种方法都被建模为一个过程交付图。这些图表已经过专家的方法验证。这些图表为进一步分析和软件开发奠定了基础。在这份报告中，我们触及的道德，社会和环境会计方法本体，已创建的基础上域分析。
2022-08-01 cs.CY
AI Certification: Advancing Ethical Practice by Reducing Information Asymmetries
随着人工智能（AI）系统的部署越来越多，道德AI的原则也在激增。认证提供了一种方法，既鼓励采用这些原则，又证实这些原则已在实践中得到实施。本文借鉴了有关认证的管理文献，并回顾了当前的人工智能认证计划和建议。成功的项目依赖于新兴的技术方法和特定的设计考虑。为了避免两种常见的认证失败，方案设计应确保认证标志在实践中得到充分实施，并确保方案实现其既定目标。审查表明，该领域目前侧重于系统、个人和组织的自我认证和第三方认证，而不包括过程管理认证。此外，本文还考虑了未来AI认证计划的前景。人工智能技术的持续变化表明，人工智能认证制度的设计应该强调具有持久价值的治理标准，例如对人工智能开发人员的道德培训，并随着技术的变化调整技术标准。总的来说，认证可以在人工智能治理工具组合中发挥重要作用。
2021-05-20 cs.CY
AI Governance in Higher Education: A course design exploring regulatory, ethical and practical considerations
PBC
针对当前AI伦理教育碎片化问题，本文提出一个整合技术、伦理、法律与政策的模块化跨学科课程，借鉴多方框架制定学期计划，旨在培养能诊断风险与驾驭监管的负责任AI治理专业人才。
2025-09-16 cs.AI cs.CY cs.ET
Ethical AI for Young Digital Citizens: A Call to Action on Privacy Governance
Vancouver Island University（温哥华岛大学）
本文呼吁建立以青少年为中心的伦理AI治理框架，强调隐私保护、透明数据实践和问责措施，以应对AI在青少年数字平台中的隐私和数据保护挑战。
2026-01-29 cs.AI cs.CY cs.LG
Ethics by Design: A Lifecycle Framework for Trustworthy AI in Medical Imaging From Transparent Data Governance to Clinically Validated Deployment
本文提出医学影像AI全生命周期伦理框架，系统分析数据收集、处理、模型训练、评估和部署五阶段的隐私、公平、透明、问责与自主性问题，并给出针对性伦理策略以构建可信AI系统。
2025-07-06 cs.CY cs.ET
Transfeminist AI Governance
本研究从跨性别女性主义视角出发，结合批判性自反性方法重审AI治理实证研究，指出现有体系偏向产业、存在权力失衡等局限，提出以跨性别女性主义伦理重构AI治理以推进公平。
2025-03-19 cs.CY
Academic Institutions in Multilateral Data Governance: Emerging Arrangements for Negotiating Risk, Value and Ethics in the Big Data Economy
数据共享伙伴关系对研究机构来说越来越重要，同时也是对现有数据治理和伦理研究监督模式的挑战。我们分析了涉及学术机构的数据合作伙伴关系的四个案例，并研究了研究合作伙伴在谈判风险，价值，信任和道德之间的关系时所扮演的角色。在这一领域，道德规范远不是对金融化的限制，而是在大数据经济中实现利润的基础设施的更广泛动员的一部分。在我们所说的“组合数据治理”下，用于管理研究伦理的学术结构被工具化为组织功能，用于减轻声誉损害和社会不信任。在“实验性数据治理”的替代模式中，研究人员提出了重新思考数据伦理及其相关风险的框架和工具-这是一个有希望但实际应用有限的模式。
2023-01-29 cs.CY
A governance horizon for ethical-use constraints in open-weight AI models
School of Computer Science（计算机科学学院）；Ministry of Education（教育部）；Laboratory of High Confidence Software Technologies（高可信软件技术实验室）；University of Science and Technology Beijing（北京科技大学）；University of California, Davis（加州大学戴维斯分校）
通过审计Hugging Face Hub上的模型仓库，发现基于披露的治理在开放权重AI中具有浅层结构性限制，提出治理视野概念并比较不同政策设计的效果。
2026-05-23 cs.AI cs.CY cs.SE
A multilevel framework for AI governance
本文针对AI伦理原则难以落地的问题，提出由政府、企业和公民构成、并结合能力、正直与善意等信任维度的多层次AI治理框架，以改善用户体验并支撑公共政策。
2023-07-13 cs.AI cs.CY
Ethical Artificial Intelligence Principles and Guidelines for the Governance and Utilization of Highly Advanced Large Language Models
University of Toronto（多伦多大学）
针对先进大语言模型伦理治理缺失的问题，本文探讨了可应用于高度先进LLMs的伦理AI原则与指南，以应对其潜在后果。
2024-09-18 cs.AI cs.CE cs.CY
Ethical Risk Analysis of L2 Rollups
Univ Rennes, Inria, CNRS, IRISA（雷恩大学，法国国家信息与自动化研究所，法国国家科学研究中心，IRISA）
本文分析了L2rollups中因操作员自主权和信息不对称导致的伦理风险，通过实证数据发现多数项目存在无退出窗口的升级机制和可冻结提款的提议者控制，提出了技术与治理层面的缓解策略。
2025-12-14 cs.CY cs.DC
Towards Adaptive AI Governance: Comparative Insights from the U.S., EU, and Asia
Capitol Technology University（卡皮托尔科技大学）；Texas A&M University - Central Texas（德克萨斯农工大学中央德克萨斯分校）
本研究比较了美国、欧盟和亚洲在AI治理上的差异，提出一个集风险分级监督、创新加速器和战略对齐机制于一体的自适应AI治理框架，以促进负责任的AI发展。
2025-04-01 cs.AI cs.CY cs.ET
Unlocking the Power of Health Datasets and Registries: The Need for Urgent Institutional and National Ownership and Governance Regulations for Research Advancement
本文针对健康数据集研究潜力释放的治理需求，梳理相关法规，提出需制定机构及国家层面的数据访问共享利用指南，以保障隐私透明、推动协作创新，助力全球健康改善。
2023-06-11 cs.CY q-bio.OT
Ethical Implications of AI in Data Collection: Balancing Innovation with Privacy
该研究聚焦2023-2024年AI驱动数据收集的伦理法律问题，对比多地区监管路径，结合多领域案例分析挑战，提出法律、技术、伦理层面的解决方案，呼吁适应性治理与国际合作以平衡创新与权益保护。
2025-03-17 cs.CY cs.HC
Computability, Complexity, Consistency and Controllability: A Four C's Framework for cross-disciplinary Ethical Algorithm Research
算法的伦理后果、约束和监管可以说代表了我们这个时代的决定性挑战，要求我们考虑计算技术的兴起，这些技术以不可预见的方式从根本上改变社会和个人秩序和身份的潜力已经实现。然而，尽管这种算法转向的多学科影响，但在激励跨学科合作方面仍有一些路要走，这对于推进算法和自动化系统的道德设计，实施和监管的可行建议至关重要。在这项工作中，我们提供了一个框架，以协助跨学科的合作，提出了一个四个C的框架，涵盖关键的计算考虑因素，研究人员在这样的不同领域应该考虑接近这些问题时：（i）可计算性，（ii）复杂性，（iii）一致性和（iv）可控性。此外，我们还提供了一些例子，说明来自伦理学、哲学和人口伦理学的见解如何与算法研究和设计相关，并可在这些科学中翻译。我们的目标是制定一个框架，我们相信这是有用的，以促进跨学科的理解有关问题的伦理算法文献，这是相关的考虑道德算法治理的可行性，特别是算法治理的计算约束的影响。
2021-01-30 cs.CY cs.LG
A Systematic Literature Review of Human-Centered, Ethical, and Responsible AI
Nokia Bell Labs（诺基亚贝尔实验室）；IBM Research AI（IBM人工智能研究院）
本文系统综述了AIES、CHI、CSCW和FAccT会议的164篇论文，映射了以人为本、合乎伦理与负责任的AI（HCER-AI）研究现状，发现现有研究侧重治理与公平而忽视隐私、安全和人类繁荣，建议未来研究拓宽范围以应对AI潜在未知影响。
2023-06-26 cs.AI cs.CY cs.HC
Worldwide AI Ethics: a review of 200 guidelines and recommendations for AI governance
Pontifical Catholic University of Rio Grande do Sul（南里奥格兰德州天主教大学）；University of Bonn（波恩大学）；University of Johannesburg（约翰内斯堡大学）
本文对全球200项AI治理政策和伦理指南进行元分析，识别出17项普遍原则，为未来AI监管提供共识基础与开源工具。
2024-02-19 cs.AI cs.CY
Dual Governance: The intersection of centralized regulation and crowdsourced safety mechanisms for Generative AI
AdeptID；Northeastern University（东北大学）；Peloton Interactive（Peloton互动公司）；Cornell Tech（康奈尔理工学院）
本文提出“双重治理”框架，融合美国政府集中监管与社区众包安全机制，以在促进创新的同时保障生成式AI的安全与伦理部署。
2023-08-02 cs.AI cs.CY cs.LG
Exploring AI-powered Digital Innovations from A Transnational Governance Perspective: Implications for Market Acceptance and Digital Accountability Accountability
本研究基于跨国治理视角，结合TAM与ANT理论，探讨了AI创新的采用动因与问责机制，提出内部资源重组与行动者网络管理两项方案，以提升组织的AI问责制与全球市场接受度。
2025-04-28 cs.CY cs.HC econ.GN
Building the ethical AI framework of the future: from philosophy to practice
Graduate School of Global Studies（全球研究研究生院）；Tokyo University of Foreign Studies（东京外国语大学）；AI Product Development Division（人工智能产品开发部门）；Money Forward, Inc.（Money Forward公司）
本文提出了一种伦理设计控制架构，通过三重闸门机制整合后果论、义务论和美德伦理，为AI生命周期提供可执行的治理方案。
2026-02-16 cs.AI cs.CY
What is Ethical: AIHED Driving Humans or Human-Driven AIHED? A Conceptual Framework enabling the Ethos of AI-driven Higher education
R. C. Patel Institute of Technology（R.C. Patel理工学院）
本文提出 HD-AIHED 框架，通过定性元综合、分阶段人类智能和伦理审查等机制，使高等教育中的 AI 成为符合 UNESCO 与 OECD 伦理标准、由人类驱动的协作性使能者。
2025-02-07 cs.AI cs.CY cs.HC
Principles alone cannot guarantee ethical AI
Oxford Internet Institute, University of Oxford（牛津大学牛津互联网研究所）；the Alan Turing Institute（阿兰·图灵研究所）
人工智能伦理现在是学术界和政策界讨论的一个全球性话题。至少有84个公私合作项目发表了声明，描述了指导人工智能道德发展、部署和治理的高级原则、价值观和其他原则。根据最近的荟萃分析，人工智能伦理学似乎已经汇聚了一套与医学伦理学的四个经典原则非常相似的原则。尽管通过与医学伦理学原则的联系，人工智能伦理学的原则性方法最初获得了可信度，但有理由担心其对人工智能发展和治理的未来影响。医学和人工智能开发之间存在显着差异，这表明后者的原则性方法可能无法与前者相比。与医学相比，人工智能的发展缺乏（1）共同的目标和受托责任，（2）专业历史和规范，（3）将原则转化为实践的成熟方法，以及（4）强大的法律和专业问责机制。这些分歧表明，我们还不应该庆祝围绕隐藏着深刻的政治和规范分歧的高级别原则达成的共识。
2020-02-18 cs.AI cs.CY
Challenges and Best Practices in Corporate AI Governance:Lessons from the Biopharmaceutical Industry
Oxford Internet Institute, University of Oxford（牛津大学牛津互联网研究院）；Center for Information Technology Policy, Princeton University（普林斯顿大学信息技术政策中心）；AstraZeneca（阿斯利康）；University of Bologna（博洛尼亚大学）
本文基于AstraZeneca的一手经验，分析企业AI治理落地面临的范围界定、标准统一、效果衡量等挑战，提出依托现有治理结构、聚焦风险管理、赋能员工等可推广的最佳实践。
2024-07-07 cs.AI cs.CY
Ethical and Privacy Considerations with Location Based Data Research
针对人类移动性研究扩张带来的隐私与伦理风险，该研究回顾118篇含149个个体移动性数据集的相关论文，发现现有研究未统一遵循数据治理与传播准则，并就领域内伦理隐私处理展开讨论。
2024-02-11 cs.CY
Audit and Assurance of AI Algorithms: A framework to ensure ethical algorithmic practices in Artificial Intelligence
算法在商业中的应用越来越广泛，企业越来越担心他们的算法会造成重大的声誉或财务损失。我们应该强调，任何这些损害都源于美国缺乏严格的立法禁止或衡量损害的具体协议的情况。因此，政府正在制定立法并执行禁令，监管机构正在对企业进行罚款，司法部门正在讨论是否让人工智能计算机模型成为法律眼中的决策者。从自动驾驶汽车和银行到医疗保健，住房和法律决策，很快就会有大量的算法在有限的人为干预下做出决策。政府、企业和社会将进行算法审计，这将系统地验证算法是否合法、道德和安全，类似于财务审计。一个现代化的市场，审计和算法保证，旨在使AI，机器学习和相关算法专业化和工业化。这一新兴领域的利益攸关方包括政策制定者和监管机构，以及行业专家和企业家。此外，我们预见审计阈值和框架将为所有关注治理和标准化的人提供有价值的信息。本文旨在回顾审计和保证所需的关键领域，并在这一新的研究和实践领域引发讨论。
2021-07-14 cs.CY
Moving beyond Principles: Identifying Actionable AI Fairness Practices
University of Reading（雷丁大学）；Zeppelin University（齐佩林大学）
本文提出了一种基于社会技术视角的AI公平实践框架，通过分析60个来源，构建了涵盖AI全生命周期的结构化实践矩阵，提供动态、角色特定的指导以支持AI公平的实施与持续。
2026-04-20 cs.CY
Enhancing Clinical Decision-Making: Integrating Multi-Agent Systems with Ethical AI Governance
College of Computing（计算学院）；Georgia Institute of Technology（佐治亚理工学院）；University of Illinois（伊利诺伊大学）；Neuro Industry Research（神经产业研究）；Neuro Industry, Inc.（神经产业公司）
本文提出一种基于多智能体系统的临床决策支持框架，通过模块化智能体分析实验室结果、生命体征和临床背景，在eICU数据上验证其死亡率预测和住院时间估计优于单智能体系统，同时增强AI辅助决策的透明度和可信度。
2025-09-22 cs.AI cs.CY cs.LG
Governance and Regulation of Artificial Intelligence in Developing Countries: A Case Study of Nigeria
Aula Fellowship for AI, Montreal, Canada（蒙特利尔Aula AI奖学金（加拿大蒙特利尔））
本文通过尼日利亚案例研究，探讨法律专业人士对发展中国家人工智能治理的看法，发现数据隐私风险、法律框架缺失及机构能力不足等问题，强调需本地化治理模式。
2026-04-08 cs.AI cs.CY cs.HC
AI Ethics and Governance in Practice: An Introduction
本文介绍了PBG Framework，一个多层级治理模型，旨在帮助项目团队将伦理价值观和实用原则融入创新实践，并提供展示与记录的清晰机制，以负责任地管理AI系统对社会的长期影响。
2024-02-19 cs.AI cs.CY cs.HC
AI Ethics Education in India: A Syllabus-Level Review of Computing Courses
BITS Pilani, KK Birla Goa Campus（比拉理工学院KK比尔拉果阿校区）
本研究审查印度计算课程大纲中AI伦理的覆盖情况，发现其多作为次要模块存在，且内容有限，提出加强AI伦理教育的建议。
2025-09-26 cs.CY
A Framework for Developing University Policies on Generative AI Governance: A Cross-national Comparative Study
该跨国比较研究对美、日、中顶尖大学的生成式人工智能指南分析，用扩展技术接受模型考察五个领域确定关键主题，提出UPDF-GAI框架，能助大学评估政策、平衡创新与风险、加强治理能力，推动高等教育人工智能治理发展。
2026-07-28 cs.CY
Auditing of AI: Legal, Ethical and Technical Approaches
Oxford Internet Institute, University of Oxford（牛津大学牛津互联网研究院）；Center for Information Technology Policy, Princeton University（普林斯顿大学信息技术政策中心）
本文作为AI审计主题综述与社论，梳理领域研究现状，提出审计可借鉴多学科经验、政产研共推治理、多学科融合三大要点，区分技术与流程导向审计，主张整合形成覆盖系统全维度影响的整体性审计机制。
2024-07-07 cs.AI cs.CY
Ethics-Based Auditing of Automated Decision-Making Systems: Nature, Scope, and Limitations
影响人类生活、生计和自然环境的重要决策越来越自动化。将任务委托给所谓的自动决策系统（ADMS）可以提高效率并实现新的解决方案。然而，这些好处伴随着道德挑战。例如，ADMS可能产生歧视性结果，侵犯个人隐私，破坏人类自决。因此，需要新的治理机制来帮助组织以符合道德的方式设计和部署ADMS，同时使社会能够获得自动化的全部经济和社会效益。在这篇文章中，我们认为道德为基础的审计（EBA）的可行性和有效性作为一种治理机制，允许组织验证有关其ADMS的索赔。在以往工作的基础上，我们将EBA定义为一个结构化的过程，通过该过程，评估一个实体目前或过去的行为是否符合相关原则或规范。然后，我们提供三个现有的文献贡献。首先，我们提供了一个理论解释如何EBA可以通过促进程序的规范性和透明度，以促进良好的治理。其次，我们提出了七个标准，如何设计和实施EBA程序成功。第三，我们确定和讨论的概念，技术，社会，经济，组织和机构的限制与EBA。我们的结论是，EBA应被认为是一个不可分割的组成部分，多方面的方法来管理ADMS所带来的道德风险。
2021-10-21 cs.CY cs.SE
Putting AI Ethics into Practice: The Hourglass Model of Organizational AI Governance
University of Turku（图尔库大学）
人工智能（AI）的组织使用已迅速扩展到各个部门。除了对人工智能带来的好处的认识外，人们对解决先进人工智能技术带来的风险和潜在危害（如偏见和歧视）的必要性也达成了越来越多的共识。已经提出了许多人工智能伦理原则来解决这些风险，但确保对社会负责的人工智能发展的组织流程和实践的大纲仍处于萌芽状态。为了解决缺乏全面治理模型的问题，我们提出了一个人工智能治理框架，即组织人工智能治理的沙漏模型，该模型针对开发和使用人工智能系统的组织。该框架旨在帮助部署人工智能系统的组织将道德人工智能原则转化为实践，并使其人工智能系统和流程与即将出台的欧洲人工智能法案保持一致。沙漏框架包括环境、组织和人工智能系统层面的治理要求。在人工智能系统层面，我们将治理需求与人工智能系统生存周期联系起来，确保在整个系统生命周期内进行治理。该治理模型突出了人工智能治理的系统性，并为其实际实施开辟了新的研究途径，连接不同人工智能治理层的机制以及人工智能治理参与者之间的动态。该模型还为组织决策者提供了一个起点，以考虑确保社会可接受性、降低风险和实现人工智能潜力所需的治理组件。
2023-01-31 cs.AI cs.CY
Responsible AI Pattern Catalogue: A Collection of Best Practices for AI Governance and Engineering
Data61, CSIRO（联邦科学与工业研究组织数据61研究所）
本文基于多声部文献综述提出负责任AI模式目录，从系统层面归纳治理、流程与产品设计模式，为AI全生命周期落地负责任AI提供可操作指导。
2023-09-28 cs.AI cs.CY cs.SE
Beyond Procedural Compliance: Human Oversight as a Dimension of Well-being Efficacy in AI Governance
University College Dublin（都柏林大学学院）
本文提出将人类监督视为AI治理中的福祉能力，强调通过教育体系培养这种能力以实现安全和道德的人工智能发展。
2025-12-15 cs.AI cs.CY cs.HC
A Framework for Responsible AI Systems: Building Societal Trust through Domain Definition, Trustworthy AI Design, Auditability, Accountability, and Governance
Deparment of Computer Science and Artificial Intelligence and Andalusian Research Institute in Data Science and Computational Intelligence (DaSCI), University of Granada（计算机科学与人工智能系和安达卢西亚数据科学与计算智能研究所（DaSCI），格拉纳达大学）；TECNALIA (BRTA)（TECNALIA（BRTA））；University of the Basque Country (UPV/EHU)（巴斯克大学（UPV/EHU））；School of Engineering, Cornell University（工程学院，康奈尔大学）；ADIA Lab（ADIA实验室）；Computational Research Department, Lawrence Berkeley National Laboratory（计算研究部，劳伦斯伯克利国家实验室）；Intelligent Systems for Robotics and Automation Laboratory, Macau University of Science and Technology（机器人与自动化智能系统实验室，澳门科学技术大学）
本文提出一个整合领域定义、可信AI设计、可审计性、可问责性和治理的RAI系统设计框架，旨在通过建立社会信任实现负责任的人工智能。
2026-01-08 cs.AI cs.CY cs.LG
Approaches to Responsible Governance of GenAI in Organizations
Vector Institute for Artificial Intelligence（向量人工智能研究所）；Western University（西部大学）
本文针对生成式 AI 在伦理和问责方面的挑战，通过文献综述与行业讨论提出了组织内负责任的 GenAI 治理核心原则，并发布了 ResAI 指南以平衡创新与风险监督。
2025-09-14 cs.AI cs.CY cs.LG
The Dark Side of Ethical Robots
Bristol Robotics Laboratory（布里斯托尔机器人实验室）
对与人工智能进步相关的风险的担忧促使人们呼吁为强大而有益的人工智能做出更大努力，包括机器伦理。最近，机器人学家开始开发所谓的道德机器人。理想情况下，这些机器人会评估自己行为的后果，并在道德上证明自己的选择是正确的。这一新兴领域有望在未来几年内得到广泛发展。然而，在本文中，我们指出了伦理机器人这一新兴领域的固有局限性。我们表明，建立道德的机器人也必然促进不道德的机器人的建设。在三个实验中，我们证明了修改一个道德机器人是非常容易的，这样它的行为就具有竞争力，甚至是攻击性。原因在于，制造道德机器人所需的特定人工智能总是可以被用来制造不道德的机器人。因此，道德机器人的发展并不能保证人工智能的负责任部署。在倡导道德机器人的同时，我们得出结论，防止机器人的滥用超出了工程学的范围，而是需要以立法为基础的治理框架。如果没有这一点，道德机器人的发展将增加机器人不当行为的风险，而不是减少它。
2016-06-08 cs.AI cs.CY cs.RO
AI Governance InternationaL Evaluation Index (AGILE Index) 2024
本文提出AI治理国际评估指数（AGILE Index），从AI发展水平、治理环境、治理工具和治理成效四大支柱、18个维度39项指标评估14国AI治理现状，为各国完善治理体系提供参考。
2025-07-17 cs.AI cs.CY
A five-layer framework for AI governance: integrating regulation, standards, and certification
Department of Telecommunications, Ministry of Communications（通信部电信司）；Defence Institute of Advanced Technology, Ministry of Defence（国防部国防先进技术研究院）
本文提出一个五层AI治理框架，通过整合监管指令、标准与认证流程，连接监管原则与实际实施，并经案例验证能有效识别合规差距，为政策制定者和行业提供可行的风险管理路线图。
2025-09-14 cs.AI cs.CY cs.HC
AI Ethics by Design: Implementing Customizable Guardrails for Responsible AI Development
University of Zagreb（萨格勒布大学）；Preamble（普雷安布尔公司）
本文提出一种可定制的AI伦理护栏框架，通过整合规则、策略与AI助手实现负责任的AI行为，支持伦理多元主义并提升透明度与用户自主性，同时给出冲突解决策略。
2026-11-04 cs.CL cs.CY
AI Governance in the Context of the EU AI Act: A Bibliometric and Literature Review Approach
本研究通过文献计量和文献综述方法，分析了欧盟《人工智能法案》框架下AI治理的研究趋势，揭示了该领域研究相对有限但跨学科兴趣增长，并识别了教育、伦理和ChatGPT等核心主题，为未来AI治理框架发展提供见解。
2025-01-08 cs.CY cs.DL
The Ethics of Artificial Intelligence in Military Operations
针对军事AI的伦理挑战，提出包含问责角色、对抗性审计和分级部署的治理框架，强调制度基础设施对保持人类判断的关键作用。
2026-09-23 cs.AI cs.CY cs.HC
Responsible AI Governance: A Response to UN Interim Report on Governing AI for Humanity
本报告回应联合国人工智能治理中期报告，提出通过法律约束、透明度、多层数据治理及多方协作促进负责任AI治理，以支持可持续发展目标并维护人类价值与公共利益。
2024-12-31 cs.AI cs.CY
Auditing large language models: a three-layered approach
University of Oxford（牛津大学）；Princeton University（普林斯顿大学）；Centre for the Governance of AI（人工智能治理中心）；Goethe University Frankfurt（法兰克福歌德大学）；University of Bologna（博洛尼亚大学）
针对LLMs带来的伦理与治理挑战，本文提出一种包含治理、模型与应用审计的三层方法，为技术提供商与政策制定者提供评估LLMs的可行框架。
2023-06-27 cs.AI cs.CL cs.CY
The Different Faces of AI Ethics Across the World: A Principle-Implementation Gap Analysis
Polytechnique Montréal（蒙特利尔工程学院）
人工智能（AI）正在改变我们的日常生活，在医疗保健、太空探索、银行和金融等领域有着广泛的应用。人工智能的这些快速发展使人们越来越关注人工智能技术对社会的潜在影响，并带来道德上值得怀疑的后果。近年来，各国政府、国家和国际组织发布了一些伦理原则。这些原则概述了指导人工智能道德开发、部署和治理的高级规则。然而，这些原则的抽象性、多样性和对环境的依赖性使其难以实施和操作，导致原则与其执行之间存在差距。最近的工作分析和总结了现有的人工智能原则和指导方针，但他们没有提供关于原则实施差距以及如何缓解这些差距的调查结果。这些发现对于确保人工智能的实施符合道德原则和价值观尤为重要。在本文中，我们对各大洲当前的人工智能伦理原则进行了背景和全球评估，旨在确定针对特定国家或适用于各国的潜在原则特征。接下来，我们分析了不同国家目前的人工智能准备程度和人工智能伦理原则的实施情况，以确定人工智能原则实施方面的差距及其原因。最后，我们提出建议，以减少原则和执行的差距。
2022-05-12 cs.AI cs.CY
Artificial Intelligence Governance and Ethics: Global Perspectives
Chinese University of Hong Kong（香港中文大学）
人工智能（AI）是一种在全球社会和经济中越来越多地使用的技术，其实施计划在未来几年变得更加普遍。人工智能越来越多地嵌入我们的生活，补充了我们对数字技术的普遍使用。但这也伴随着对人工智能有问题和危险的实施的担忧，甚至是人工智能本身决定采取危险和有问题的行动，特别是在军事、医学和刑事司法等领域。这些发展导致了人们对人工智能系统是否以及如何遵守道德标准的担忧。这些问题激发了关于人工智能伦理的全球对话，并导致来自不同国家和部门的各种参与者发布人工智能的伦理和治理倡议和指南。这些发展构成了我们在本报告中研究的基础，结合我们的国际和跨学科专业知识，深入了解澳大利亚，中国，欧洲，印度和美国正在发生的事情。
2019-06-28 cs.AI cs.CY cs.LG
